ШІ-бот Grok на платформі X генерує близько 6 700 оголених зображень на годину — Bloomberg

Про це пише Bloomberg.

За даними незалежного аналізу, обліковий запис Grok на X створював близько 6700 зображень на годину, які містили сексуальний підтекст або оголені тіла. Інші п’ять провідних сайтів з дипфейками публікували в середньому 79 таких зображень на годину.

Дослідники соцмереж і дипфейків підрахували, що 85% усіх зображень Grok мають сексуалізований характер.

З кінця грудня у соцмережі X можна було натрапити на дописи, де користувачі просять Grok згенерувати сексуалізовані зображення із фото інших користувачів. Жертвами цього тренду стали в основному молоді жінки. За допомогою штучного інтелекту звичайні фото жінок робили «одягненими» у бікіні або надавали їм принизливого виразу обличчя.

Масштаби дипфейків на X «безпрецедентні», оскільки Grok безплатний і не має обмежень на створення такого контенту, сказала юристка, що спеціалізується на сексуальних злочинах в Інтернеті, Керрі Голдберг.

Жертви дипфейків почали сперечатися з Grok у коментарях до своїх постів. Grok часто просить вибачення та каже, що видалить зображення. Але в багатьох випадках зображення залишаються активними, а Grok продовжує створювати нові.

Влада Європейського Союзу, Великої Британії, Малайзії, Франції та Індії розкритикували Grok за публікацію зображень сексуального характеру, зокрема, неповнолітніх, без згоди.

«Нам відомо, що X або Grok тепер пропонує »пікантний режим», який показує відвертий сексуальний контент з деякими зображеннями дитячого характеру. Це не пікантно. Це незаконно», — заявив речник Європейської комісії Томас Реньє.

Компанія X не відповіла на запит щодо коментарів. Раніше Ілон Маск заявляв, що відповідальність мають нести користувачі, які підказують системі створювати незаконний контент. В одній із відповідей у X він написав, що будь-хто, хто використовує Grok для створення незаконних матеріалів, «матиме ті самі наслідки, що й у разі завантаження незаконного контенту».

xAI позиціює Grok як більш поблажливий ШІ, ніж інші основні моделі, і минулого літа представив функцію під назвою Spicy Mode, яка дозволяє часткову оголеність дорослих та контент сексуального підтексту. Утім сервіс забороняє порнографію, що містить зображення реальних людей, та контент сексуального характеру за участю неповнолітніх, створення або розповсюдження якого є незаконним.