ВООЗ закликала з обережністю використовувати ШІ у сфері охорони здоров'я: Треба вивчити ризики

Про це йдеться у повідомленні ВООЗ.

Попередження ВООЗ стосується зокрема LLM — це тип алгоритму штучного інтелекту, який використовує методи глибокого навчання та великі набори даних для розуміння, узагальнення та створення нового контенту. Такі відомі платформи як ChatGPT, Bard, Bert тощо імітують розуміння, обробку та створення людського спілкування.

ВООЗ вказує, що у випадку з LLM не зберігається та обережність, яка зазвичай дотримується щодо будь-якої нової технології.

Організація попереджає: важливо ретельно вивчити всі ризики використання LLM для покращення доступу до інформації про здоров’я — під час ухвалення рішень чи навіть для посилення діагностичних можливостей у місцях, де є обмежені ресурси для захисту здоров’я людей.

«Раптове впровадження неперевірених систем може призвести до помилок медпрацівників, завдати шкоди пацієнтам, підірвати довіру до ШІ та таким чином підірвати (або затримати) потенційні довгострокові переваги та використання таких технологій у всьому світі», — зазначають у ВООЗ.

Так, дані, які використовуються для навчання ШІ, можуть бути упередженими та генерувати оманливу або неточну інформацію, яка може становити ризик для здоров’я, справедливості та інклюзивності. Відповіді ШІ можуть здаватися авторитетними та правдоподібними, але бути абсолютно неправильними або містити серйозні помилки.

Окрім того, ШІ можуть навчати на даних, для яких не давали згоду на використання. Або не захищати конфіденційні дані (зокрема про стан здоров’я), які користувач надає додатку для створення відповіді.

Також ВООЗ вважає, що інструментами ШІ можуть зловживати — для створення та поширення дуже переконливої ​​дезінформації, яку громадськості важко відрізнити від надійного медичного контенту.

Організація запевняє, що з ентузіазмом ставиться до належного використання нових технологій, у тому числі LLM. Але пропонує розглянути проблеми та виміряти чіткі докази користі перед їх широким використанням.