Umelá inteligencia zohráva čoraz dôležitejšiu úlohu v inováciách a výskumu v oblasti zdravia, od prevencie a včasnej detekcie až po diagnostiku, liečbu a dlhodobé riadenie ochorení. Správa (Frontier Research for Artificial Intelligence in Health) Európskej rady pre výskum (ERC) prináša podrobnú analýzu toho, ako špičkový financovaný výskum posúva prístupy založené na umelej inteligencii v celej oblasti zdravia.

Správa skúma 238 projektov ERC využívajúcich umelú inteligenciu v oblasti zdravia, ktoré boli financované v rámci 7. rámcového programu, programu Horizont 2020 a programu Horizont Európa, ktoré vyvíjajú a uplatňujú modely umelej inteligencie, systémy a platformy na podporu klinického rozhodovania, vrátane strojového učenia a hlbokého učenia. Cieľom týchto projektov je umožniť včasnejšiu detekciu ochorení a prispôsobiť predikciu rizika, diagnostiku, prognózu, liečbu a manažment ochorení individuálnym pacientom.

Súčasťou správy je aj analýza toho, ako môže výskum v oblasti umelej inteligencie prispieť k naplneniu pravidiel EÚ týkajúcich sa dôveryhodnej umelej inteligencie v zdravotníctve, ktorá bude nielen inovatívna a konkurencieschopná, ale aj dôveryhodná a zameraná na človeka. Okrem toho sa v rámci analýzi potvrdilo aj to, že umelá inteligencia podporuje integráciu multi-omických, fenotypových a zdravotných údajov a zohráva čoraz dôležitejšiu úlohu v celom životnom cykle liekov, od ich vývoja až po klinické skúšky.

Správa ukazuje, ako môžu projekty ERC podporiť implementáciu nariadenia EÚ o umelej inteligencii, ktoré klasifikuje väčšinu softvéru založeného na umelej inteligencii určeného na lekárske účely ako vysoko rizikový. Zároveň definuje aj Európsky priestor pre zdravotné údaje a stratégiu EÚ – Apply AI. Výskumníci financovaní z ERC zdôrazňujú potrebu prísnej validácie, robustného riadenia rizík, vysokokvalitných údajov, transparentnosti a zmysluplného ľudského dohľadu, spolu s bezpečnou infraštruktúrou a jasným riadením údajov. Tie by sa mali opierať o medicínskych robotov a personalizovanú medicínu so zreteľom na dlhodobé financovanie, centrá umelej inteligencie pre vedu a regulačné sandboxy ako kľúčové faktory.

Kľúčové výzvy pre rozvoj a zavádzanie umelej inteligencie v zdravotníctve identifikovali výskumníci ERC prostredníctvom rozhovorov, a to v rôznych vedeckých, technologických, ekonomických, právnych, kultúrnych, sociálnych a ďalších rozmeroch, pričom ide najmä o: 

• Potreba interdisciplinárnej spolupráce medzi výskumníkmi z rôznych odborov v každej fáze výskumného procesu, od začiatku až do konca;
• Kvalita a dostupnosť biomedicínskych údajov, ktoré sú v súčasnosti fragmentované, chránené autorskými právami a nejednotné v jednotlivých krajinách, a navyše nejasné normy pre ich použitie v biomedicínskom výskume;
• Prístup k citlivým údajom o jednotlivcoch z rôznych krajín a ich spracovanie, ako aj ťažkosti pri integrácii rôznych typov údajov spôsobom, ktorý rešpektuje súkromie;
• Nedostatočné rigorózne validačné štúdie, transparentné rozhodovacie procesy a starostlivá integrácia systémov umelej inteligencie do klinických pracovných postupov.

Výskumníci ERC tiež identifikovali súčasné a budúce riziká na základe svojich skúseností nasledovne:  

• Neistota ohľadom konečnej zodpovednosti a možnosti spochybnenia v prípade, že je systém umelej inteligencie zapojený do rozhodovacieho procesu, ak dôjde k chybám alebo poškodeniu pacientov;
• Ako monitorovať dynamické, samoučiace sa nástroje umelej inteligencie na podporu rozhodovania pre klinické použitie a ako integrovať ľudský dohľad, keď je to požadované alebo potrebné;
• Zaujaté výsledky a obmedzenia ich generalizácie v dôsledku obmedzených alebo nadmerne prispôsobených dátových súborov, niekedy v rámci náročnej rovnováhy medzi presnosťou a spravodlivosťou;
• Náročne interpretovateľné a komplexné modely umelej inteligencie, ktorým chýba transparentnosť a dostatočné množstvo kvalitných dát, v spojení s ich nadmerným používaním v prípadoch, kde by boli vhodnejšie jednoduchšie modely;
• Nedostatok odborných znalostí a zručností v oblasti umelej inteligencie, čo môže viesť k nesprávnej interpretácii a nadmernému spoliehaniu sa, čo ohrozuje ich klinické využitie alebo dôveru v prístupy založené na umelej inteligencii.

Viac informácií.

Zverejnené 27.3.2026, slord