ChatGPT перевірятиме вік користувачів, щоб обмежити відповіді для неповнолітніх
Компанія OpenAI створює систему, яка визначатиме вік користувачів у ChatGPT. Це запровадили, щоб обмежити відповіді чату для підлітків.
Про це йдеться на сайті компанії.
OpenAI хоче відокремити повнолітніх користувачів від неповнолітніх. Для цього створили систему прогнозування віку, яка визначатиме його на основі того, як люди використовують ChatGPT.
Якщо система матиме сумніви щодо віку, то автоматично застосовуватиме досвід для користувачів до 18 років.
У деяких випадках або країнах компанія також може попросити надати посвідчення особи. Гендиректор OpenAI Сем Альтман наголосив: «Ми розуміємо, що це є порушенням приватності для дорослих, але вважаємо, що це виправданий компроміс».
Для підлітків установлять окремі правила користування чат-ботом. Зокрема, ChatGPT буде навчений не фліртувати з ними, коли така ініціатива йтиме від користувача, і не обговорювати самогубство або самоушкодження.
Навіть якщо підлітки, наприклад, попросять допомоги в написанні вигаданої історії, у якій зображується сцена самогубства, — ChatGPT не обговорюватиме цього з ними.
Водночас якщо чат-бот виявить суїцидальні думки в неповнолітнього, то компанія спробує сконтактувати з його батьками. А якщо це буде неможливо — повідомить відповідні органи в разі небезпеки.
Що передувало?
Раніше проти OpenAI подали позов через смерть 16-річного хлопця. Батьки підлітка стверджують, що чат-бот компанії ChatGPT підштовхнув його до самогубства.
Вони звинуватили OpenAI в розробленні програми штучного інтелекту «з метою сприяння психологічній залежності користувачів» та в обході протоколів тестування безпеки для випуску версії ChatGPT 4.0.
BBC писало, що це перша судова справа, у якій компанія звинувачується в неправомірній смерті.
OpenAI тоді заявила, що «останні трагічні випадки використання ChatGPT людьми, які перебувають у гострій кризі, тяжко на нас впливають» та анонсувала зміни в чат-боті.
Після цього компанія анонсувала низку змін у чат-боті, зокрема запровадження батьківського контролю. Серед іншого батьки зможуть пов’язати свій акаунт з акаунтом підлітка та отримувати сповіщення, якщо система виявить, що дитина перебуває у стані гострого стресу.