Inteligentzia artifizial esplikagarria (XAI), seinale biomedikoen eredu multimodaletan aplikatua

Ekitaldiaren deskribapen orokorra

Inteligentzia Artifiziala (IA) eraldaketa sakona sortzen ari da medikuntzaren esparruan. Datu-bolumen handiak prozesatzeko eta aztertzeko duen gaitasunak laguntza-tresna estrategiko bihurtzen du osasun langileentzat, bai diagnostikoan, bai erabaki klinikoak hartzean. Hala ere, bere aplikazioak muga garrantzitsuak ditu; besteak beste, testuinguruari buruzko informazioa denbora errealean integratzeko zailtasuna eta emaitzen zuzentasunean eta zehaztasunean eragina izan dezaketen joera algoritmikoak txertatzeko arriskua.

Muga horien ondorioz, arrisku handiko erabakiak hartzeko prozesuetan IA erabiltzean, ezinbestekoa da osasun-profesional baten esku-hartzea eta azken baliozkotzea. Zentzu horretan, Inteligentzia Artifizialari buruzko Europako Legeak indartu egiten du eskakizun hori, aplikazio medikoak arrisku handiko sistema gisa sailkatzen baititu, eta algoritmoen etengabeko giza gainbegiratzearen betebeharra ezartzen du. Ikuskapen horrek, arriskuak arintzeaz gain, gizakien eta ingurumen-sistemen arteko lankidetza eraginkorretik eratorritako errendimendu optimoa bermatzea eta sustatzea ere bilatzen du.

Orduan, nola finka daiteke osasun-langileen eta inteligentzia artifizialeko sistemen arteko lankidetza eraginkorra, profesionalek ez badute behar besteko informaziorik eredu horien barne-funtzionamenduari buruz? Testuinguru honetan, Inteligentzia Artifizialaren Azalgarritasunak (XAI, ingelesezko sigletan) hartzen du garrantzia, tradizionalki "kutxa beltzak" izan diren ereduen gardentasuna eta interpretagarritasuna handitzera bideratutako metodoak garatzen dituen ikerketa-eremua.

Hasierako etapetan, XAI garatzaileei zuzendutako tresna gisa sortu zen nagusiki, iragarpenetan akatsak, alborapenak eta nahi ez ziren portaerak identifikatzeko, eta ereduak hobetzen eta baliozkotzen laguntzeko. Hala ere, aplikazio-eremua zabaldu egin da pixkanaka, iragarpen horietan oinarritutako erabakiak hartzen dituzten azken erabiltzaileengana, bereziki eragin handiko testuinguruetan, hala nola osasunean. Esparru horretan, XAIk IAko sistemekiko lankidetza eraginkorragoa errazten du, haien funtzionamenduari eta emaitzei buruzko azalpen ulergarriak ematen baititu.

XAI ez da modeloen funtzionamenduari buruzko informazio teknikoa ematera mugatzen; azalpen horiek azken erabiltzailearen ezaugarrietara egokitu behar dira. Egokitzapen horrek hainbat faktore hartu behar ditu kontuan, hala nola hartzailearen behar espezifikoak, erabilitako hizkuntza, bistaratze mota egokiena eta sistemaren ulermen eraginkorra eta erabilera arduratsua errazteko behar den informazio-xehetasunaren maila.

Osasun-langileen profilek azalpen desberdinak behar dituztela onartuta, NAIRen erabilera espezifikoko kasuei heltzen diegu eta osasun-langileak aktiboki integratzen ditugu arazoa identifikatzeko hasierako etapetatik. Ikuspegi hori erabiltzailea ardatz duen diseinu batean gauzatzen da, non profesional sanitarioek zeharka parte hartzen duten soluzioaren garapenaren fase guztietan, eskakizunen definiziotik hasi eta azken baliozkotzeraino.

Helburuak

Proiektuaren ardatza XAIren framework bat diseinatzea, garatzea eta ebaluatzea da, profesional sanitarioei bereziki zuzendua. Framework horren helburua da IAko sistemen "kutxa beltza" tresna ulergarri, erabilgarri eta klinikoki garrantzitsu bihurtzea, osasun-langileei aukera emanez modu egokian kalibratzeko eredu horiek sortutako iragarpenetan eta gomendioetan duten konfiantza-maila.

Helburu hori lortzeko, hiru ardatz osagarritan oinarritutako ikuspegi metodologiko integrala hartu da. Lehenik eta behin, benetako erabiltzailea ardatz duen diseinua aplikatzen da, dauden lan-fluxu klinikoekin lerrokatutako azalpenak garatuz eta osasun-langileen denbora-mugak eta muga kognitiboak errespetatuko dituzten interfaze intuitiboak sortuz.

Bigarrenik, azalpen multimodalak txertatzen dira, informazio iturri eta formatu desberdinak konbinatuz, IAren ereduen portaeraren ulermen aberatsagoa eta sendoagoa eskaintzeko, eta, aldi berean, ingurune kliniko kritikoetan duten fidagarritasun teknikoa bermatzeko.

Azkenik, framework delakoak zeharka integratzen ditu etikari eta aniztasunari buruzko kontsiderazioak, alborapen algoritmikoen arintze aktiboa sustatuz eta inteligentzia artifizialaren arloan indarrean dagoen Europako araudia betetzen dela ziurtatuz.

Finantzaketa

Enpresek, ikerketa-zentroek eta zentro teknologikoek doktoregaiak kontratatzeko laguntzen deialdiak finantzatutako proiektua: 2024 Doktoregai industrialak.

Proiektu gehiago