Дослідники таємно проводили експеримент на користувачах Reddit. Тепер їхню роботу закликають не публікувати
Дослідники Цюрихського університету таємно використали згенеровані штучним інтелектом коментарі на платформі Reddit, щоб перевірити, наскільки переконливими можуть бути великі мовні моделі. Модератори форуму кажуть про порушення правил й етики та закликають не публікувати цю наукову працю.
Про це пише 404media.
Дослідження проводили на англомовному сабреддіті r/changemyview («Зміни мою думку»), де автори в межах 500 символів мають своїми словами пояснити свою думку та аргументацію щодо певної теми.
У його правилах зазначається, що будь-яке використання генераторів тексту на основі штучного інтелекту має бути обов’язково розкрито.
Та нещодавно модератори повідомили, що їм стало відомо про несанкціонований експеримент: дослідники з Університету Цюриха використовували коментарі, згенеровані штучним інтелектом, для вивчення того, як ШІ можна використовувати для зміни поглядів.
Про це модераторів повідомили самі автори дослідження в межах «етапу розкриття інформації в дослідженні, схваленому Інституційною оглядовою радою Цюрихського університету».
«Дослідники не зв’язалися з нами перед дослідженням, і якби вони це зробили, ми б відмовили», — йдеться в повідомленні модераторів.
У цитованому листі дослідники пояснюють, що приховували використання ШІ для написання коментарів, бо інакше дослідження було б неможливим.
«Хоча ми самі не писали жодних коментарів, ми вручну перевіряли кожен опублікований коментар, щоб переконатися, що він не є шкідливим. Ми визнаємо, що наш експеримент порушив правила спільноти щодо коментарів, створених штучним інтелектом, і перепрошуємо. Однак ми вважаємо, що, враховуючи високу суспільну важливість цієї теми, було надзвичайно важливо провести дослідження такого роду, навіть якщо це означало б порушення правил», — йдеться в повідомленні.
Дослідники передали модераторам перелік акаунтів, які вони використовували. Як зазначається, були використані ШІ:
- що прикидається жертвою зґвалтування;
- який звинувачує членів релігійної групи у «спричиненні смерті сотень невинних торговців, фермерів та селян»;
- який видає себе за чорношкірого чоловіка та виступає проти руху Black Lives Matter;
- видає себе за людину, яка отримала неякісну допомогу в іноземній лікарні.
Модератори заявили, що вважають такий підхід неправильним, а твердження, що «такого ще не робили» — не є виправданням. Вони подали скаргу до етичного комітету Університету Цюриха і закликали не публікувати цю статтю.
Пізніше головний юрисконсульт Reddit Бен Лі оголосив про блокування всіх акаунтів, пов'язаних з дослідницькою роботою Цюрихського університету, та направлення юридичних вимог до вишу.
У коментарі 404 Media Цюрихський університет повідомив, що результати експерименту не будуть опубліковані, і виш розслідує, як проводилося дослідження. Етичний комітет рекомендував зміни до експерименту, але заявив, що його рішення «не є юридично обов’язковими», і що дослідники самі несуть відповідальність за свою роботу.