Дослідники таємно проводили експеримент на користувачах Reddit. Тепер їхню роботу закликають не публікувати

Про це пише 404media.

Дослідження проводили на англомовному сабреддіті r/changemyview («Зміни мою думку»), де автори в межах 500 символів мають своїми словами пояснити свою думку та аргументацію щодо певної теми.

У його правилах зазначається, що будь-яке використання генераторів тексту на основі штучного інтелекту має бути обов’язково розкрито.

Та нещодавно модератори повідомили, що їм стало відомо про несанкціонований експеримент: дослідники з Університету Цюриха використовували коментарі, згенеровані штучним інтелектом, для вивчення того, як ШІ можна використовувати для зміни поглядів.

Про це модераторів повідомили самі автори дослідження в межах «етапу розкриття інформації в дослідженні, схваленому Інституційною оглядовою радою Цюрихського університету».

«Дослідники не зв’язалися з нами перед дослідженням, і якби вони це зробили, ми б відмовили», — йдеться в повідомленні модераторів.

У цитованому листі дослідники пояснюють, що приховували використання ШІ для написання коментарів, бо інакше дослідження було б неможливим.

«Хоча ми самі не писали жодних коментарів, ми вручну перевіряли кожен опублікований коментар, щоб переконатися, що він не є шкідливим. Ми визнаємо, що наш експеримент порушив правила спільноти щодо коментарів, створених штучним інтелектом, і перепрошуємо. Однак ми вважаємо, що, враховуючи високу суспільну важливість цієї теми, було надзвичайно важливо провести дослідження такого роду, навіть якщо це означало б порушення правил», — йдеться в повідомленні.

Дослідники передали модераторам перелік акаунтів, які вони використовували. Як зазначається, були використані ШІ:

• що прикидається жертвою зґвалтування;
• який звинувачує членів релігійної групи у «спричиненні смерті сотень невинних торговців, фермерів та селян»;
• який видає себе за чорношкірого чоловіка та виступає проти руху Black Lives Matter;
• видає себе за людину, яка отримала неякісну допомогу в іноземній лікарні.

Модератори заявили, що вважають такий підхід неправильним, а твердження, що «такого ще не робили» — не є виправданням. Вони подали скаргу до етичного комітету Університету Цюриха і закликали не публікувати цю статтю.

Пізніше головний юрисконсульт Reddit Бен Лі оголосив про блокування всіх акаунтів, пов'язаних з дослідницькою роботою Цюрихського університету, та направлення юридичних вимог до вишу.

У коментарі 404 Media Цюрихський університет повідомив, що результати експерименту не будуть опубліковані, і виш розслідує, як проводилося дослідження. Етичний комітет рекомендував зміни до експерименту, але заявив, що його рішення «не є юридично обов’язковими», і що дослідники самі несуть відповідальність за свою роботу.