ВОЗ призвала с осторожностью использовать ИИ в сфере здравоохранения: Надо изучить риски
Всемирная организация здравоохранения (ВОЗ) призвала быть осторожными при использовании инструментов искусственного интеллекта в сфере защиты общественного здоровья.
Об этом говорится в сообщении ВОЗ.
Предупреждение ВОЗ касается LLM — это тип алгоритма искусственного интеллекта, который использует методы глубокого обучения и большие наборы данных для понимания, обобщения и создания нового контента. Такие известные платформы как ChatGPT, Bard, Bert и т.п. имитируют понимание, обработку и создание человеческого общения.
ВОЗ указывает, что в случае с LLM не сохраняется та осторожность, которая обычно придерживается в любой новой технологии.
Организация предупреждает: важно тщательно изучить все риски использования LLM для улучшения доступа к информации о здоровье — при принятии решений или даже для усиления диагностических возможностей в местах, где есть ограниченные ресурсы для защиты здоровья людей.
«Внезапное внедрение непроверенных систем может привести к ошибкам медработников, причинить вред пациентам, подорвать доверие к ИИ и таким образом подорвать (или задержать) потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — отмечают в ВОЗ.
Так, данные, используемые для обучения ИИ, могут быть предвзятыми и генерировать обманчивую или неточную информацию, которая может представлять риск для здоровья, справедливости и инклюзивности. Ответы ИИ могут казаться авторитетными и правдоподобными, но быть абсолютно неправильными или содержать серьезные ошибки.
Кроме того, ИИ могут учить на данных, для которых не давали согласия на использование. Или не защищать конфиденциальные данные (в том числе состояние здоровья), которые пользователь предоставляет приложению для создания ответа.
Также ВОЗ считает, что инструментами ИИ могут злоупотреблять — для создания и распространения очень убедительной дезинформации, которую общественности трудно отличить от надежного медицинского контента.
Организация уверяет, что с энтузиазмом относится к надлежащему использованию новых технологий, включая LLM. Но предлагает рассмотреть проблемы и измерить четкие доказательства пользы перед их широким использованием.
- Поделиться: