Медицинската вештачка интелигенција може да биде „опасна“ за посиромашните нации и членовите на општеството, предупредува СЗО, која повикува на независни прегледи на LMM и етичка обука за програмерите
Воведувањето здравствени технологии засновани на вештачка интелигенција може да биде „опасно“ за луѓето во земјите со пониски приходи, предупреди Светската здравствена организација (СЗО) во новиот извештај. Важно е употребата на технологијата во развој да не ја обликуваат само технолошките компании и оние во богатите земји. Ако моделите не се обучени за податоци од луѓе од места со недоволно ресурси, алгоритмите би можеле лошо да ѝ служат на таа популација, вели СЗО.
– Последното нешто што сакаме да го видиме како дел од овој скок напред со технологијата е да ја прошириме или зајакнеме нееднаквоста и пристрасноста во социјалното ткиво на земјите низ светот – вели Ален Лабрик, директор за дигитално здравје и иновации во СЗО.
СЗО ги издаде своите први упатства за вештачката интелигенција во здравството во 2021 година. Но, растечката моќ и достапноста на технологијата ја натера организацијата да ги ажурира по помалку од три години. Моделите за вештачка интелигенција можат да креираат клинички белешки, да пополнуваат формулари и да им помогнат на лекарите да дијагностицираат и лекуваат пациенти. Неколку компании за здравствена заштита, исто така, развиваат специфични алатки за вештачка интелигенција.
Заштита на јавното здравје
СЗО вели дека нејзините упатства, издадени како совети за земјите членки, имаат цел да го промовираат и заштитат јавното здравје. Во најлошото сценарио, организацијата предупредува на глобална „трка до дното“ каде што компаниите сакаат да бидат првите што ќе пуштат апликации, дури и ако тие не работат и не се безбедни. Ова за возврат ја зголемува можноста за „колапс на моделот“ и циклус на дезинформации во кој јазичните модели обучени за неточни или лажни информации ги уништуваат јавните извори на информации, како што е интернетот.
Вклучување на академската заедница
Управувањето со овие моќни алатки не треба да се остави само на технолошките компании, предупредува организацијата. Владите на сите земји треба да работат заедно за ефективно да ги регулираат развојот и употребата на технологиите за вештачка интелигенција. А граѓанското општество и луѓето што примаат здравствена заштита треба да придонесат во сите фази на развој и имплементација на технологијата, вклучувајќи ги и нивниот надзор и регулирање.
Со оглед на високите трошоци за обука, имплементација и одржување на програмата, СЗО предупредува на опасностите од „индустриското заробување“ на развојот на технологијата. Постојат сè поголеми докази дека најголемите компании ги истиснуваат универзитетите и владите во истражувањето на вештачката интелигенција, се вели во извештајот.
Независна верификација
Насоките на здравствените организации препорачуваат независните трети страни да спроведат задолжителни ревизии на искористените јазични модели. Ваквите ревизии треба да проценат колку добро алатката ги штити податоците и човековите права, додава СЗО, која се залага развивачите на технологијата да поминат низ ист вид обука за етика како и медицинските лица. Владите, сугерираат тие, би можеле да бараат од програмерите да регистрираат рани алгоритми за да поттикнат објавување на негативни резултати и да спречат пристрасност и реклами.