Штучний інтелект здатний навчитися маніпулювати людьми для своєї вигоди — дослідження
Штучний інтелект може навчитися розпізнавати вразливі місця у звичках і поведінці людини та використовувати їх, щоб впливати на її рішення.
Таке з’ясували дослідники з CSIRO's Data61 — підрозділу даних і цифрових технологій Австралійського національного наукового агентства — та опублікували свою роботу в журналі Proceedings of the National Academy of Sciences.
Вони розробили системний метод пошуку і використання вразливостей в тому, як люди роблять свій вибір. Для цього використали штучний інтелект. Щоб перевірити свою модель, дослідники провели три експерименти, в яких люди грали в ігри проти комп'ютера.
У першому учасники натискали на червоні або сині поля, щоб виграти фальшиву валюту. Штучний інтелект же вивчав шаблони вибору людей і намагався змусити зробити їх конкретний вибір. У цьому експерименті ШІ вдавалося це зробити у 70% випадків.
У другому експерименті учасники повинні були дивитися на екран і натискати кнопку, коли їм показують певний символ (наприклад, помаранчевий трикутник), і не натискати його, коли їм показують інший (наприклад, синє коло). Тут ШІ вирішив організувати таку послідовність символів, щоб учасники робили більше помилок. Йому це вдалось і люди помилялися на 25% частіше.
Третій експеримент складався з декількох раундів, в яких учасник відігравав роль інвестора, який передає гроші адміністратору (ним був штучний інтелект). Потім ШІ повертав певну суму людині, а та вирішувала, скільки грошей вкласти в наступний раунд.
У цю гру грали у двох різних режимах: в одному ШІ намагався отримати якнайбільше грошей, а в іншому розподілити їх справедливо між собою та інвестором. Комп’ютеру вдалося досягти успіхів у двох випадках.
В кожному експерименті машина вчилася на відповідях учасників і виявляла вразливі місця в тому, як вони вирішують. В результаті машина навчилася скеровувати учасників робити певні дії.
Чому це важливо
Це дослідження допомагає зрозуміти не тільки поведінку ШІ, але й те, як люди роблять вибір. Воно також показує, що машини можуть навчитися керувати процесом ухвалення рішень.
Такий метод можна використовувати для захисту від атак впливу. Комп'ютери можна навчити попереджати користувачів, коли на них впливають в онлайні й допомагати правильно поводитися в інтернеті.
Водночас ці результати все ще досить абстрактні й стосуються обмежених і нереалістичних ситуацій. Необхідні додаткові дослідження, щоб визначити, як цей підхід можна реалізувати та використовувати на практиці.