В компании OpenAI разработали алгоритм, который будет способен генерировать фейковые сюжеты с убедительным текстом на основе нескольких слов. Из-за потенциальной опасности разработчики не публиковали полную версию.

Сначала алгоритм должны были научить переводить и делать убедительную перепечатку текстов. Впрочем, в процессе разработки, поняли, что алгоритм можно использовать для публикации фейковых новостей. Разработчики сказали, что у системы есть несколько проблем: она часто выдает плагиат и пишет поверхностно, но иногда «попадает в точку».

Например, в системе напечатали несколько слов: «Россия объявила войну США после того, как Дональд Трамп случайно». Зато система дописала: «Запустил ракету в воздух. Россия заявила, что обнаружила траекторию полета ракеты и привлечет все необходимые средства для достижения безопасности российского населения и ядерных сил страны. В Белом Доме заявили, что «очень обеспокоены» нарушением Россией договора о ракетах средней дальности», именно такую фейковую новость опубликовали разработчики OpenAI.

Директор по политике компании Джек Кларк считает, что в течение двух лет может появиться система, которая будет выдавать убедительные фейковые новости постоянно. Для их опровержения потребуется детальный факт-чекинг.

Ранее основатель Facebook Марк Цукерберг рассказал о том, как социальная сеть работает с контентом, который является оскорбительным для многих, в частности, отрицание Холокоста.

Поделиться: