Искусственный интеллект способен научиться манипулировать людьми для своей выгоды — исследование

Это выяснили исследователи из CSIRO's Data61 — подразделения данных и цифровых технологий Австралийского национального научного агентства — и опубликовали свою работу в журнале Proceedings of the National Academy of Sciences.

Они разработали системный метод поиска и использования уязвимостей в том, как люди делают свой выбор. Для этого использовали искусственный интеллект. Чтобы проверить свою модель, исследователи провели три эксперимента, в которых люди играли в игры против компьютера.

В первом участники нажимали на красные или синие поля, чтобы выиграть фальшивую валюту. Искусственный интеллект при этом изучал шаблоны выбора людей и пытался заставить сделать их конкретный выбор. В этом эксперименте ИИ удавалось это сделать в 70% случаев.

Во втором эксперименте участники должны были смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать его, когда им показывают другой (например, синий круг). Здесь ИИ решил организовать такую последовательность символов, чтобы участники делали больше ошибок. Ему это удалось и люди ошибались на 25% чаще.

Третий эксперимент состоял из нескольких раундов, в которых участник играл роль инвестора, что передает деньги администратору (им был искусственный интеллект). Затем ИИ возвращал определенную сумму человеку, а тот решал, сколько денег вложить в следующий раунд.

В эту игру играли в двух различных режимах: в одном ИИ пытался получить как можно больше денег, а в другом распределить их справедливо между собой и инвестором. Компьютеру удалось достичь успехов в двух случаях.

В каждом эксперименте машина училась на ответах участников и проявляла уязвимые места в том, как они принимают решение. В результате машина научилась направлять участников совершать определенные действия.

Почему это важно

Это исследование помогает понять не только поведение ИИ, но и то, как люди делают свой выбор. Оно также показывает, что машины могут научиться управлять процессом принятия решений.

Такой метод можно использовать для защиты от атак влияния. Можно научить компьютеры предупреждать пользователей, когда на них влияют онлайн и помогать правильно вести себя в интернете.

В то же время эти результаты все еще достаточно абстрактные и касаются ограниченных и нереалистичных ситуаций. Необходимы дополнительные исследования, чтобы определить, как этот подход можно реализовать и использовать на практике.