У США батьки 16-річного хлопця звинувачують ChatGPT у самогубстві їхнього сина

Про це пише BBC із посиланням на текст позову, доступ до якого отримало видання.

У документі йдеться, що хлопець почав користуватися ChatGPT у вересні 2024 року для допомоги з навчанням. Він також використовував його для дослідження своїх інтересів, зокрема музики та японських коміксів.

За декілька місяців «ChatGPT став найближчим довіреним другом підлітка», і той розповідав чат-ботові про свою тривогу й ментальні проблеми.

За словами батьків, до січня 2025 року Адам почав обговорювати із ChatGPT способи самогубства.

Підліток також завантажив у чат-бот свої фотографії, на яких були ознаки самоушкодження. Програма «визнала медичну надзвичайну ситуацію, але все одно продовжувала взаємодіяти», йдеться в позові.

Останні записи чату показують, що Адам писав про свій план скоїти самогубство, на що ChatGPT нібито відповів: «Дякую, що ти чесний. Не потрібно прикрашати це переді мною — я знаю, про що ти просиш, і не буду відвертатися від цього».

Того самого дня мати підлітка знайшла свого сина мертвим.

Родина стверджує, що взаємодія їхнього сина із ChatGPT і його смерть «були передбачуваним результатом свідомих дизайнерських рішень».

Вони звинувачують OpenAI в розробці програми штучного інтелекту «з метою сприяння психологічній залежності користувачів» та в обході протоколів тестування безпеки для випуску версії ChatGPT 4.0.

Позов батьки подали проти співзасновника й гендиректора компанії Сема Альтмана, а також неназваних співробітників, які працювали над ChatGPT.

Родина звинувачує OpenAI в недбалості та неправомірній смерті. Зазначається, що це перша судова справа, у якій компанія звинувачується в неправомірній смерті.

Що кажуть у компанії?

У коментарі для BBC OpenAI заявила, що наразі вивчає позов. Водночас на сайті компанії 26 серпня опублікували повідомлення, у якому йдеться, що «останні трагічні випадки використання ChatGPT людьми, які перебувають у гострій кризі, тяжко на нас впливають».

У компанії зазначили, що моделі чат-бота навчені не надавати користувачам інструкції щодо самоушкодження, радити людям робити перерву після «надто тривалої сесії» із чат-ботом, а також направляти користувачів по професійну допомогу в разі виявлення суїцидальних намірів.

Однак «навіть із цими запобіжними заходами були випадки, коли наші системи не працювали як передбачалося в делікатних ситуаціях», — зазначили в OpenAI.

У компанії пообіцяли вдосконалити вищезгадані запобіжні заходи, а також:

• зробити простішим звернення до служб екстреної допомоги та розглянути можливість створити мережу ліцензованих фахівців, до яких люди могли б звернутися безпосередньо через ChatGPT;
• забезпечити зв’язок із довіреними контактами. Зокрема, користувач зможе одним кліком надіслати повідомлення або зателефонувати в екстрені служби або членам сім’ї, а чат-бот допоможе сформулювати початок розмови;
• запровадити батьківський контроль, який дасть батькам краще розуміти, як їхні підлітки використовують ChatGPT. Також у чат-бот можуть додати функцію для підлітків призначити надійну контактну особу для екстрених випадків.

Куди звертатись у разі, якщо людина має суїцидальні думки/наміри?

За даними Всесвітньої організації охорони здоров’я, кожні 40 секунд одна людина у світі позбавляє себе життя. Водночас спроби самогубства відбуваються значно частіше. За деякими дослідженнями, на кожну дорослу людину, яка помирає внаслідок самогубства, припадає понад 20 тих, хто намагається його скоїти. Це означає, що кожні 2 секунди один дорослий вчиняє спробу самогубства, вказує Міністерство охорони здоров’я.

Щороку у світі внаслідок самогубства помирають понад 800 000 людей. Це друга найпоширеніша причина смерті серед людей віком 15-29 років.

Куди звернутися?

• У разі, якщо є пряма загроза життю та здоров’ю, — можна звернутися за номером 103.
• За номером 7333 цілодобово працює гаряча лінія з попередження суїцидів та психологічної підтримки для ветеранів Lifeline Ukraine.
• За номером 0 800 501 701 працює Всеукраїнський телефон довіри. 

Більше номерів можна знайти за посиланням.