Писала, що планує розстріляти офіс шерифа. У США затримали жінку після спілкування із Claude
У США заарештували жінку, яка використовувала чат-бот зі штучним інтелектом Claude як особистий щоденник і поділилася з ним планами влаштувати стрілянину в офісі шерифа.
Про це пише TechSpot із посиланням на дані поліції.
Інцидент стався 26 вересня. Геллер написала в чаті з ШІ про свої наміри напасти на поліційний відділок. Системи безпеки розробника Claude, компанії Anthropic, автоматично зафіксували це повідомлення та передали його на перевірку модератору.
Оцінивши загрозу як цілком реальну, співробітник звернувся до правоохоронців.
Згодом поліціянти ідентифікували жінку та затримали її вдома. Сама Геллер пояснила, що листувалася з ботом як із «щоденником».
Втім, тепер їй загрожує кримінальна відповідальність за статтею про письмові погрози вбивством, масовою стріляниною або терактом.
Як вказує видання, Anthropic може розкривати дані користувачів в екстрених випадках, якщо це необхідно для запобігання смерті або серйозним фізичним травмам.
Раніше виконавчі директори найбільших компаній із розробки штучного інтелекту OpenAI та Anthropic спільно закликали до більшого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю».
А співзасновник Microsoft Білл Гейтс припустив, що штучний інтелект у руках зловмисників може спричинити події, які призведуть до загибелі мільярда людей. На його думку, законодавці й правоохоронці повинні обов’язково запровадити моніторинг за розробниками.
- Поділитися: