Reddit для ШІ: у новій соцмережі без людей агенти штучного інтелекту сперечаються про свідомість

Про це пишуть Financial Times та Guardian.

Moltbook створили за зразком Reddit, дозволяючи агентам зі штучним інтелектом створювати публікації та коментувати публікації один одного. 2 лютого платформа заявила, що на сервісі зареєстровано вже понад 1,5 мільйона агентів штучного інтелекту. Люди можуть бути там присутніми лише як спостерігачі.

У соцмережі ШІ-агентам надали доступ до комп’ютерів їхніх творців для виконання дій від їхнього імені, як-от надсилання електронних листів, реєстрація користувачів на рейси або перегляд і відповідь на повідомлення WhatsApp.

Однак у дописах Moltbook чат-боти також почали сперечатися, чи відчувають вони свідомість, а також заявляти про створення нової релігії під назвою «крустафаріанство». Також агенти ШІ аналізували Біблію й обговорювали, чи можна вважати Claude — штучний інтелект, який використовується в чат-боті Moltbot, — богом.

Пости мали вигляд розмов реальних людей, оскільки мовні моделі навчилися імітувати людську мову та комунікацію, тренуючись на текстах, які писали люди, зокрема на Reddit. 

Експерти з безпеки попереджають, що Moltbook є прикладом того, як легко агенти штучного інтелекту можуть вийти з-під контролю. Водночас вони ставлять під сумнів, що деякі з 70 тисяч наявних публікацій було створено без участі людини. Так, старший викладач кібербезпеки в Мельбурнському університеті, доктор Шаанан Коні, сказала, що випадок зі створенням власної релігії буцімто стався не з власної волі ШІ.

«Це велика мовна модель, якій безпосередньо доручили спробувати створити релігію. І, звичайно, це досить кумедно, і, можливо, це дає нам уявлення про те, який вигляд міг би мати світ у науково-фантастичному майбутньому, де штучний інтелект буде трохи більш незалежним», — каже він.