Световната здравна организация призовава за безопасно и етично ползване на ИИ инструменти в здравеопазването

0
37
Източник: WHO / Blink Media

Световната здравна организация (СЗО) изразява загриженост относно навлизането на големи езикови модели (Large Language Models/LLMs), генерирани от изкуствен интелект (AI) в здравеопазването, и призовава за предпазливост в този процес. Въпреки че СЗО подкрепя употребата на новите технологии, включително AI и цифровото здравеопазване, с цел подобряване на човешкото здраве, организацията призовава към предприемането на по-задълбочени действия, които да гарантират безопасността и защитата на пациентите, докато технологичните фирми работят по комерсиализирането на тези големи езикови модели.

В изявление, публикувано във вторник, СЗО насърчава задълбочено проучване на рисковете, свързани с големите езикови модели.

Организацията подчерта още, че предпазливостта, която обикновено се проявява по отношение на новите технологии, не се прилага последователно по отношение на големите езикови модели.

Големите езикови модели стоят в основата на най–бързо развиващите се платформи като ChatGPT, Bard, Bert и много други, които имитират разбиране, обработка и създаване на човешка комуникация.

Какво точно представляват големите езикови модели?

Това е усъвършенствана система, на базата на огромни количества данни, която комбинира прогнози от множество сложни алгоритми, с цел да направи една по-точна прогноза по зададена от субекта тема/въпрос.

Те са изградени предимно с помощта на техники за дълбоко обучение, по-специално невронни мрежи, които им позволяват да обработват и взимат информация от огромни количества текстови данни.

Световната здравна организация (СЗО) изразява своя ентусиазъм относно подходящото използване на подобни технологии, но също така дава отглас и на несигурността, изпитвана от здравните специалисти, пациентите, изследователите и учените, по отношение на рисковете, свързани с генерирането на неточни отговори здравето или неизцяло верни или грешни отговори, което може да представлява опасност за, тъй като се създава ненадеждна здравна информация.

СЗО предупреждава, че прибързаното приемане на неизпитани системи може да доведе до грешки от страна на здравните работници, да причини вреда на пациентите и да подкопае доверието в изкуствения интелект. Такива последици могат да забавят бъдещата употреба на такива технологии в цял свят.

Световната здравна организация (СЗО) отново подчертава важността на прилагането на етични принципи и адекватно управление, както е изложено в ръководството на СЗО относно етиката и управлението на изкуствения интелект (ИИ) в здравеопазването. Организацията определя шест основни принципа, които трябва да бъдат взети предвид при проектирането, разработването и внедряването на ИИ в областта на здравето:

1) Защита на автономията – гарантиране на правото на индивидите да контролират своето лично здравеопазване и взимат информирани решения.

2) Насърчаване на човешкото благополучие, безопасността на хората и обществения интерес – гарантира се, че изкуствения интелект се използва за подобряване на здравето на хората, съобразено с обществените интереси.

3) Осигуряване на прозрачност и разбираемост – гарантира се яснота относно начина, по който се използва изкуственият интелект в здравеопазването.

4) Насърчаване на отговорността и отчетността – гарантира се отговорност от страна на операторите на изкуствения интелект, както и отчетност за неговото използване.

5) Осигуряване на приобщаване и справедливост – гаранция, че изкуствения интелект не предизвиква дискриминация, а насърчава равенството в достъпа до здравни услуги и ресурси.

6) Насърчаване на отзивчивост и устойчивост – гаранция, че системите са гъвкави и се приспособяват към променящите се нужди и предизвикателства в здравеопазването.

Превод: Ния Недялкова

Източник: Who.in