OpenAI розкрила, скільки людей показують ознаки психічних проблем у розмовах із ChatGPT: може йтися про сотні тисяч

Про це пише BBC з посиланням на дослідження компанії.

OpenAI стверджує, що ці випадки «надзвичайно рідкісні», водночас, за словами критиків, навіть такий невеликий відсоток може сягати сотень тисяч людей, оскільки компанія нещодавно прозвітувала про 800 мільйонів активних користувачів ChatGPT щотижня.

Ще 0,15% користувачів ChatGPT ведуть розмови, які містять «явні ознаки потенційного суїцидального планування або наміру».

У компанії наголошують, що нещодавні оновлення її чат-бота створили для того, щоб «безпечніше й емпатичніше реагувати на можливі ознаки марення чи манії» та виявляти «непрямі сигнали потенційної загрози самопошкодження або суїциду».

За даними OpenAI, вони розробили серію відповідей у ​​ChatGPT, щоб заохотити користувачів звертатися по допомогу до реальних людей.

Що передувало?

Раніше проти OpenAI подали позов через смерть 16-річного хлопця. Батьки підлітка стверджують, що чат-бот компанії ChatGPT підштовхнув його до самогубства.

Вони звинуватили OpenAI в розробленні програми штучного інтелекту «з метою сприяння психологічній залежності користувачів» та в обході протоколів тестування безпеки для випуску версії ChatGPT 4.0.

BBC писало, що це перша судова справа, у якій компанію звинувачують у неправомірній смерті.

OpenAI тоді заявила, що «останні трагічні випадки використання ChatGPT людьми, які перебувають у гострій кризі, тяжко на нас впливають» та анонсувала зміни в чат-боті.

Після цього компанія анонсувала низку змін у чат-боті, зокрема, запровадження батьківського контролю. Серед іншого батьки зможуть пов’язати свій акаунт з акаунтом підлітка та отримувати сповіщення, якщо система виявить, що дитина перебуває у стані гострого стресу.