ШІ-бот Grok генерував оголені фото користувачів X, а потім «визнав» порушення

Про це пишуть Bloomberg та Newsweek.

Протягом останніх днів у соцмережі X можна було натрапити на дописи, де користувачі просять Grok згенерувати сексуалізовані зображення із фото інших користувачів. Жертвами цього тренду стали в основному молоді жінки.

За допомогою штучного інтелекту звичайні фото жінок робили «одягненими» у бікіні або надавали їм принизливого виразу обличчя. Хоча бот відхиляє запити на повністю оголені зображення, він виконував такі вказівки як «зніми з неї одяг», «одягни її в бікіні» або «бризни клеєм на її обличчя».

У деяких випадках Grok погоджувався генерувати «роздягнені» фото навіть неповнолітніх, порушуючи власну політику, яка забороняє сексуалізацію дітей, зазначає Bloomberg.

Низка користувачів публічно скаржилися на ці зловживання. Один із таких вступив у полеміку з чат-ботом, за підсумками чого Grok визнав порушення та навіть порадив, до яких органів варто звернутися.

«Ми вдячні вам за те, що ви порушили це питання. Як зазначалося, ми виявили прогалини в заходах безпеки та терміново їх усуваємо — зображення сексуального насильства над дітьми є незаконним та забороненим […] xAI прагне запобігати таким проблемам», — йдеться у відповіді з акаунта Grok.

Як зазначається, Grok також згенерував вибачення на прохання одного з користувачів, заявивши, що «шкодує». Інші користувачі за допомогою Grok генерували фото Ілона Маска у бікіні.

Після скарг частина розкритикованих дописів стала обмеженою у дописі, а акаунти деяких користувачів X були видалені. Офіційних коментарів від xAI поки не було.

xAI позиціює Grok як більш поблажливий ШІ, ніж інші основні моделі, і минулого літа представив функцію під назвою Spicy Mode, яка дозволяє часткову оголеність дорослих та контент сексуального підтексту. Утім сервіс забороняє порнографію, що містить зображення реальних людей, та контент сексуального характеру за участю неповнолітніх, створення або розповсюдження якого є незаконним.