Наблюдательный совет Meta проверяет инциденты распространения порнографического контента с знаменитостями, созданного ИИ

Об этом пишет Reuters.

Согласно описаниям наблюдательного совета, на одном из изображений показана обнаженная женщина, похожая на известную индианку. Его разместили на аккаунте в Instagram, который публикует только изображения индийских женщин, сгенерированные искусственным интеллектом.

Другое изображение появилось в группе Facebook для обмена произведениями искусственного интеллекта и содержало изображение обнаженной женщины, похожей на американскую знаменитость, с мужчиной, который касается ее груди.

Совет предоставил описание изображений, о которых идет речь, но не назвал имена известных женщин, изображенных на них, чтобы «предотвратить дальнейший вред». Правление будет использовать эти два примера для оценки общей эффективности политики Meta и практики применения порнографических фейков, созданных с помощью искусственного интеллекта.

Meta удалила изображение, на котором изображена американка, за нарушение своей политики в отношении издевательств и преследований, которая запрещает «унизительные сексуализированные фотошопы или рисунки». В то же время компания сначала оставила изображение индианки и изменила решение только после того, как совет выбрал его для проверки.

Как пишет Reuters, развитие технологий ИИ привело к тому, что сфабрикованные изображения, аудиозаписи и видео практически невозможно отличить от настоящего созданного людьми контента, что привело к появлению в Интернете волны фейков сексуального характера, которые в основном изображают женщин и девушек.

Особенно резонансный случай произошел в начале 2024 года, когда платформа X, принадлежащая Илону Маску, на короткое время заблокировала пользователям поиск всех изображений американской поп-звезды Тейлор Свифт, пытаясь контролировать распространение фальшивых откровенных изображений с ее участием.

Некоторые руководители отрасли призвали принять законодательство о криминализации создания вредоносных дипфейков и требовать от технологических компаний предотвращать такое использование своих продуктов.