OpenAI обіцяє посилити заходи безпеки після смертельної стрілянини в Канаді
OpenAI обіцяє посилити заходи безпеки після того, як компанія не повідомила поліцію про підозрілу поведінку однієї з користувачок ChatGPT, яка влаштувала смертельну стрілянину в канадській школі.
Про це пише BBC.
Нагадаємо, 10 лютого у школі міста Тамблер-Ридж, що на півночі Канади, сталася стрілянина. За даними поліції, за нападом стояла 18-річна трансжінка Джессі ван Рутселаар.
Слідчі заявили, що спочатку вона вбила свою 39-річну матір та 11-річного зведеного брата вдома. Потім Джессі пішла до школи, де застрелила 39-річну вчительку, а також низку учнів — це діти віком від 11 до 13 років.
В OpenAI повідомляли, що ще 2025 року розглядали можливість попередження канадської поліції щодо Джессі, але на той час вирішили, що її активність не відповідає порогу для звернення до правоохоронців.
Попри це, акаунт Джессі заблокували в червні — за сім місяців до стрілянини. У відкритому листі до канадських посадовців компанія заявила, що дівчина змогла створити новий обліковий запис після того, як перший був заблокований.
Компанія додала, що з того часу змінила поріг для звернення до поліції про облікові записи, і якби діяльність Джессі у ChatGPT виявили сьогодні — про це б повідомили правоохоронців.
OpenAI також заявила, що внесла низку змін, зокрема залучила «експертів із психічного здоров’я та поведінки» й зробила критерії для звернення до поліції «більш гнучкими».
До того ж компанія пообіцяла встановити прямий контакт із канадськими правоохоронцями, щоб оперативно повідомляти про можливі подібні випадки, — це було однією з вимог, яку висували канадські посадовці.