Суд у США призупинив заборону створювати оголені фото через ШІ

Про це повідомляє Reuters.

Закон про боротьбу з «нудифікацією» набув чинності в штаті Міннесота 1 серпня. Він забороняв розробникам ШІ та операторам сайтів дозволяти користувачам генерувати зображення інтимних частин тіла людей, яких не було на оригінальному фото.

Влада штату пояснила, що закон мав зупинити поширення «вражальної кількості матеріалів із сексуальним насильством над дітьми, які генерують такі ШІ-продукти, як Grok Imagine».

Однак компанія xAI подала позов. Там заявили, що такі обмеження порушують Конституцію США та обмежують свободу слова. В xAI також наголосили, що їхній генератор зображень вже містить «суворі заходи захисту» від створення сексуалізованих дипфейків. Компанія, мовляв, навіть почала судитися з користувачами, які намагалися обійти ці блокування.

Апеляційний суд підтримав позов і призупинив дію заборони на час розгляду справи. В офісі генпрокурора Міннесоти заявили, що розчаровані цим рішенням:

«Закон про заборону “нудифікації” в Міннесоті не дозволяє ШІ-продуктам генерувати сексуалізовані зображення, які завдають шкоди людям і переслідують їх у найжорстокіший спосіб», — сказав речник генпрокурора Еллісона Джон Стайлз.

Що передувало?

Наприкінці 2025 року xAI додала в Grok можливість створювати сексуалізовані зображення з реальними людьми. Для цього потрібно було у коментарях під опублікованою фотографією попросити штучний інтелект «роздягти» людину, зобразивши її, наприклад, у спідній білизні.

Дослідниця соціальних мереж та дипфейків Женев’єва Ох у коментарі Bloomberg розповідала, що 5-6 січня чат-бот щогодини генерував близько 6700 зображень. Об’єктом «роздягання» ставали звичайні користувачки, а також знаменитості й політикині.

Спершу функція надавалася безплатно з щоденними обмеженнями, однак із 9 січня користувачам для створення дипфейків потрібна була платна підписка.

Тим часом кілька регуляторів по всьому світу, зокрема у Великій Британії, розкритикували новий інструмент. У відповідь на критику Ілон Маск зробив репост допису, в якому стверджувалося, що уряд Великої Британії не звертає увагу на подібні порушення ChatGPT та Gemini, а нібито має претензії лише до X. Маск додав, що «вони хочуть будь-якого приводу для цензури».

У підсумку в середині січня платформа X заборонила Grok генерувати сексуалізовані зображення користувачів. Ця функція стала недоступною для всіх користувачів, включно з тими, хто має платну підписку.