ВОЗ призывает к безопасному и этичному использованию ИИ

Всемирная организация здравоохранения (ВОЗ) призывает проявлять осторожность при использовании инструментов больших языковых моделей (БЯМ), созданных искусственным интеллектом (ИИ), для защиты благополучия, безопасности, самостоятельности людей и охраны здоровья. 

В число БЯМ входят некоторые из наиболее быстро расширяющихся платформ, например, ChatGPT, Bard, Bert, которые имитируют понимание, обработку и создание человеческого общения. Их стремительное распространение в обществе и растущее экспериментальное использование в целях, связанных со здоровьем, вызывают значительный интерес к возможностям удовлетворения потребностей людей в области здравоохранения. 

Хотя ВОЗ с энтузиазмом относится к надлежащему использованию технологий, существуют опасения, что меры предосторожности не всегда соблюдаются в отношении больших языковых моделей. Речь идет о повсеместном соблюдении основополагающих ценностей транспарентности, инклюзивности, участия общественности, экспертного надзора и тщательной оценки.  

Поспешное внедрение непроверенных систем может привести к ошибкам работников здравоохранения, причинить вред пациентам, подорвать доверие к ИИ и тем самым снизить или отсрочить потенциальные преимущества и использование таких технологий в долгосрочной перспективе во всем мире.  

Существуют проблемы, которые требуют строгого контроля для того, чтобы технологии использовались безопасным, эффективным и этичным образом. Например, данные для обучения систем ИИ могут быть необъективными и приводить к генерированию вводящей в заблуждение или неточной информации; большие языковые модели генерируют ответы, которые могут казаться авторитетными и правдоподобными для конечного пользователя, однако на самом деле – совершенно неверные, содержащие серьезные ошибки. Кроме того, БЯМ могут обучаться на основании данных, в отношении которых, возможно, не было дано согласие на использование: при этом БЯМ не обеспечивают защиту конфиденциальных данных, которые пользователь предоставляет приложению для получения ответа. Другой момент, вызывающий опасения, – БЯМ могут использоваться для распространения дезинформации, которую широкой публики трудно отличить от достоверных материалов. 

ВОЗ предлагает рассмотреть эти проблемы и получить четкие доказательства пользы БЯМ в повседневной работе служб медицинской помощи и в медицине. В то время как компании работают над коммерциализацией БЯМ, ВОЗ рекомендует обеспечивать безопасность и защиту пациентов, Организация подчеркивает важное значение применения этических принципов и надлежащего управления ИИ при проектировании, разработке и внедрении систем ИИ в интересах здоровья. 

В Российском профсоюзе моряков подчеркивают: нет сомнений в том, что прогрессивные  и перспективные технологии могут принести пользу, однако это возможно при разумном применении новых методов. Только тщательно изучив риски использования больших языковых моделей для расширения доступа к медико-санитарной информации, можно гарантировать безопасность.

Источник ВОЗ; фото – ВОЗ/Blink Media/Amanda Mustard