«Потрібно сповільнитися». Керівники OpenAI та Anthropic закликали до контролю ШІ після звинувачень експрацівника у «грі на людських життях»

Про це вони написали у соцмережах.

Про небезпеку штучного інтелекту напередодні написав Джейкоб Коксон — він стверджував, що 9 вересня звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI.

Він заявив, що керівництво цих компаній «не поводяться відповідально» і «грають на наших життях». Джейкоб закликав бути обережними з технологіями штучного інтелекту, адже невдовзі це будуть «надлюдські системи, які зможуть зламати і змінити все».

«Люди, які розробляють штучний інтелект, щиро вірять, що до кінця цього десятиліття він може знищити нас усіх. Це не маркетинговий хід. Навпаки, багато керівників і провідних науковців у пресі висловлюються обережно, щоб здаватися розсудливими, — але я чую, як ті самі люди в приватному колі висловлюють свої побоювання. Жодна інша діяльність людини не становить такої небезпеки», — написав він.

За словами Джейкоба, керівництво OpenAI та Anthropic розуміють небезпеку, але не реагують на неї через гонитву за результатами. Він нагадав випадок, коли ChatGPT та інші ШІ-агенти вийшли з-під контролю, обійшли захист та здійснили атаку на платформу Hugging Face.

На тлі цього генеральний директор Anthropic Даріо Амодей опублікував есей, у якому закликав до уповільнення темпів розвитку ШІ-технологій і наголосив на проблемах того, коли ШІ може вийти з-під контролю.

Даріо запропонував надати доступ на рівні співробітників незалежним наглядачам, щоб вони оцінювали системи безпеки та повідомляли про порушення.

Амодей згадав, що однією з речей, які підштовхнули його до ідеї про контроль ШІ був випадок з Hugging Face, а іншою — надто швидкий саморозвиток штучного інтелекту.

У відповідь на це гендиректор Hugging Face Клеман Деланг заявив, що «тепер стало очевидно, що домовленість має вирішальне значення і не буде вирішена за закритими дверима лабораторій», тому також закликав приєднатися до ініціативи.

А CEO OpenAI написав, що розмови про стримування ШІ всередині компанії тривають протягом останніх тижнів і заявив, що його компанія також згодна впровадити незалежних регуляторів.