Індонезія та Малайзія заблокували чат-бот Grok Ілона Маска, який «роздягав» жінок на прохання інших користувачів
Індонезія та Малайзія стали першими країнами, які обмежили доступ до чат-бота Grok від компанії xAI Ілона Маска, через створення ним сексуалізованих зображень на основі справжніх фотографій.
Про це пише Bloomberg.
Першим про запровадження тимчасової заборони на Grok повідомило Міністерство зв’язку та цифрових технологій Індонезії. У відомстві пояснили, що таке рішення ухвалили, «щоб захистити жінок, дітей та всю громаду від ризику фальшивого порнографічного контенту, створеного за допомогою технології штучного інтелекту», і попросили платформу X відреагувати.
«Уряд розглядає сексуальні практики з використанням дипфейків без згоди як серйозне порушення прав людини, гідності та національної безпеки в цифровому просторі», — наголосила міністерка зв’язку та цифрових технологій Меутії Хафід.
Згодом доступ до Grok обмежив малайзійський інтернет-регулятор. Малайзійська комісія з питань зв’язку та мультимедіа зазначила, що направляла повідомлення компаніям X Corp. та xAI LLC щодо контенту, створеного штучним інтелектом, який може суперечити законодавству Малайзії, але там не врахували можливі ризики.
Що передувало?
Наприкінці 2025 року xAI додала в Grok можливість створювати сексуалізовані зображення з реальними людьми. Для цього потрібно було у коментарях під опублікованою фотографією попросити штучний інтелект «роздягти» людину, зобразивши її, наприклад, у спідній білизні.
Дослідниця соціальних мереж та дипфейків Женев’єва Ох у коментарі Bloomberg розповідала, що 5-6 січня чат-бот щогодини генерував близько 6700 зображень. Об’єктом «роздягання» ставали звичайні користувачки, а також знаменитості й політикині.
Спершу функція надавалася безплатно з щоденними обмеженнями, однак із 9 січня користувачам для створення дипфейків потрібна платна підписка.
Тим часом кілька регуляторів по всьому світу, зокрема у Великій Британії, розкритикували новий інструмент через. У відповідь на критику Ілон Маск зробив репост допису, в якому стверджувалося, що уряд Великої Британії не звертає увагу на подібні порушення ChatGPT та Gemini, а нібито має претензії лише до X. Маск додав, що «вони хочуть будь-якого приводу для цензури».
Водночас уряд Індії, який раніше також висловлював стурбованість щодо нової функції інструменту ШІ, отримав від X гарантії того, що платформа дотримуватиметься місцевих законів.
- Поділитися: