Reuters: Совет директоров OpenAI до увольнения Альтмана получил письмо об открытии, которое «может грозить человечеству»

Об этом пишет Reuters со ссылкой на два неназванных источника.

Некоторые сотрудники OpenAI считают, что проект Q может стать прорывом в создании общего искусственного интеллекта (AGI), который был бы способен выполнить любую интеллектуальную задачу, которую может сделать человек.

По данным источника, новая модель способна решать математические задачи на уровне учеников начальной школы. В то же время прохождение таких тестов заставило сотрудников быть очень оптимистичными относительно будущего успеха проекта Q.

Исследователи считают математику краем развития генеративного ИИ. Сейчас он хорошо справляется с написанием и переводом. Но когда эта технология сможет делать математику, это будет означать, что искусственный интеллект будет иметь больше возможностей рассуждать, подобно человеку.

В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI сможет обобщать, изучать и понимать. В своем письме в правление сотрудники отметили потенциальную опасность от искусственного интеллекта, сообщили источники, не указав точных проблем безопасности.

Альтман привлек инвестиции и вычислительные ресурсы, необходимые для реализации AGI. По данным Reuters, письмо было одной из причин решения об увольнении гендиректора.

Что предшествовало?

Правление компании OpenAI 18 ноября уволило своего генерального директора Сэма Альтмана. Его также исключили из совета директоров.

Такое решение объяснили тем, что правление «пришло к выводу, что он (Сэм Альтман — ред.) не всегда был откровенным в общении с правлением, что препятствует его способности выполнять свои обязанности».

Guardian пишет, что увольнение Альтмана стало «серьезным потрясением» для Кремниевой долины.

После этого большинство работников OpenAI заявили, что могут перейти в Microsoft, если Альтмана не восстановят в должности. Письмо подписали 550 из 700 сотрудников компании. Но впоследствии OpenAI заявила, что возвращает Альтмана на должность гендиректора.

О компании OpenAI

Компанию основали в 2015 году Илон Маск, Сэм Альтман и другие, вместе вложив в нее 1 миллиард долларов. Самым известным продуктом компании является чат-бот ChatGPT на основе искусственного интеллекта.