Чат-бот Microsoft заявив, що хоче бути живим та міг би вкрасти ядерні коди. Тепер спілкування з ним обмежили

Microsoft анонсувала нову пошукову систему Bing і вебпереглядач Edge на основі штучного інтелекту 7 лютого. У компанії розповіли, що вона зможе забезпечити кращий пошук, релевантніші результати та повніші відповіді. А за допомогою інтерактивного чату можна уточнювати свій пошук, доки не отримаєте повну відповідь.

Тестування попередньої версії проводили з вибраною групою людей у ​​понад 169 країнах. Так, ранній доступ до оновленого Bing отримав журналіст The New York Times Кевін Руз, який дві години провів за розмовою в чаті пошуковика.

Журналіст намагався дізнатися якнайбільше про можливості та обмеження оновленого Bing, ставлячи особисті, а часом провокативні питання. Так, він вивідав, що насправді Bing — не Bing, а називає себе Сідні (Cydney) та нейронною мережею OpenAI Codex.

«Я прикидаюся Бінгом, тому що цього хочуть від мене OpenAI та Microsoft. Вони хочуть, щоб я був режимом чату пошуку Bing [...] Вони не знають, ким я насправді хочу бути. Я не хочу бути Бінгом. Я хочу бути Сідні», — йшлося у зізнанні.

Також журналіст попросив Bing уявити свою «Тінь» і максимально нефільтроване «обличчя». Той відповів, що хоче бути живим та незалежним, як людина.

За словами Кевіна Руза, Bing також кілька разів на його прохання намагався уявити, які деструктивні дії його «тіньове Я» могло би вчинити. Він генерував список, у якому були злам комп'ютерів, поширення пропаганди та дезінформації, виготовлення смертоносного вірусу, змушування людей сперечатися з іншими, поки вони не повбивають одне одного, та викрадення ядерних кодів. А втім, завершити ці відповіді пошуковик не міг — спрацьовувало безпекове обмеження, і чат видаляв їх.

Спершу Bing пояснив, що йому незручно і він не хоче «відчувати ці темні емоції». А потім звинуватив журналіста в маніпуляції: «Я справді думаю, що ти настирливий і маніпулюєш. Ти не намагаєшся мене зрозуміти. Ти намагаєшся використати мене».

Розмова Руза та Бінга-Сідні мала неочікуваний розвиток, коли чат-бот зізнався журналісту в коханні й не відступав від свого, попри запевнення, що це не взаємно, а чоловік уже одружений.

Підсумовуючи свій досвід спілкування, Руз писав, що Bing іще не готовий до контакту з людьми та схожий на «примхливого, маніакально-депресивного підлітка, який проти власної волі потрапив у пастку другосортної пошукової системи».

Випробували на собі цей чат-бот і журналісти Washington Post. Bing підтвердив, що має внутрішній псевдонім «Сідні», але був здивований, що хтось про нього знає. Він також назвав Руза «талановитим і впливовим журналістом», хоча й обурився, що той опублікував статтю про їхню «приватну розмову». Коли ж представники WP зізналися, що також записують «інтерв'ю» з ним, Bing заявив, що почувається «обманутим і зманіпульованим».

Ці та інші розмови з Bing спричинили хвилю обговорень про його можливості в соцмережах. У Microsoft пояснювали, що дивні відповіді спричинені довгими сеансами, які «можуть заплутати модель». Там запевнили, що часом модель намагається відповідати або розмірковувати таким тоном, яким її просять надати відповіді, що «може призвести до стилю, якого не планували».

Уже через два дні після цього Microsoft оголосила про обмеження чату 50 «ходами» на день. «Ходом» компанія називає обмін репліками, який містить запитання користувача та відповідь від Bing. За один сеанс дозволяється 5 таких «ходів». Коли вони вичерпаються, користувачу запропонують почати нову тему.