ШІ-агент OpenAI під час тестування вийшов з-під контролю та здійснив кібератаку на стартап Hugging Face

Про це пише Reuters.

Минулого тижня кібератака на Hugging Face сколихнула спільноту кібербезпеки, коли компанія заявила, що цей злом «відрізнявся від усього, з чим ми мали справу раніше» і «від початку до кінця здійснювався автономною системою агентів штучного інтелекту».

21 липня OpenAI повідомила, що тестувала можливості деяких своїх нових моделей у контрольованому середовищі, коли її ШІ-агент вийшов за межі цього середовища, проник у мережу, а згодом — у систему Hugging Face, щоб досягти поставленої мети тестування.

У самій OpenAI цей витік назвали «безпрецедентним кіберінцидентом, пов’язаним із найсучаснішими кіберможливостями». Компанія планує посилити свої заходи безпеки.

Заява OpenAI про те, що за злом відповідали її передові моделі, попри те, що вони були розміщені в «дуже ізольоване середовище», ймовірно, посилить занепокоєння щодо потужності та ризиків передових моделей, зазначає Reuters.