Európska komisia zverejnila 15. októbra 2026 štvrtú verziu usmernení ERA Living Guidelines pre zodpovedné používanie generatívnej umelej inteligencie vo výskume. Usmernenia predstavujú súbor praktických odporúčaní pre výskumníkov, výskumné organizácie a organizácie financujúce výskum. Ich cieľom je podporiť zodpovedné využívanie AI pri zachovaní kvality, dôveryhodnosti a integrity výskumu.

Aktualizácia reaguje na rýchly rozvoj generatívnej (generative) a agentickej (agentic) umelej inteligencie (AI) a prináša podrobnejšie odporúčania pre jej využívanie pri peer review a hodnotení návrhov na financovanie výskumu. Základnými princípmi naďalej zostávajú transparentnosť, zodpovednosť, dôvernosť a ľudský dohľad.

Kľúčové odporúčania

Usmernenia zdôrazňujú, že využívanie AI nepresúva zodpovednosť za výsledky výskumu na AI nástroj. Výskumníci zostávajú zodpovední za kvalitu a integritu svojich výstupov a mali by kriticky overovať obsah vytvorený AI vrátane možných nepresností, halucinácií a skreslení. Pri využívaní AI agentov na komplexné úlohy je potrebné zachovať ľudský dohľad a overovať kľúčové rozhodnutia.

Dôležitým princípom zostáva transparentnosť používania AI. Výskumníci by mali uviesť využitie AI v prípadoch, keď významne ovplyvňuje výskumný alebo publikačný proces, napríklad pri literárnej rešerši, identifikácii výskumných medzier, formulovaní hypotéz, analýze údajov či ich interpretácii. Bežné technické využitie, ako kontrola pravopisu, gramatiky alebo formátovanie, sa vo všeobecnosti za podstatné využitie nepovažuje.

Usmernenia zároveň upozorňujú na ochranu osobných údajov, dôverných a nepublikovaných informácií a práv duševného vlastníctva. Citlivé materiály by nemali byť nahrávané do externých AI nástrojov bez dostatočných záruk týkajúcich sa ich ochrany a ďalšieho využitia. Výskumníci by mali zároveň overovať nastavenia ochrany súkromia a spôsob správy nástroja a údajov.

Výraznejšia pozornosť je venovaná aj používaniu AI pri peer review a hodnotení návrhov na financovanie. AI podľa usmernení nemá nahrádzať odborný úsudok pri posudzovaní vedeckej kvality, originality či významu výskumu. Môže byť využitá iba na vybrané podporné úlohy, ak je to v danom procese povolené. Pri práci s nepublikovanými rukopismi alebo návrhmi je zároveň nevyhnutné zachovať dôvernosť a používať bezpečné a dôveryhodné nástroje.

Novinkou je aj upozornenie na riziko „hidden prompts“ – skrytých promptov, teda inštrukcií vložených do dokumentov alebo iných vstupov, ktoré nemusia byť viditeľné pre človeka, ale môžu ovplyvniť správanie AI systému. Financujúce organizácie by preto mali pri využívaní AI vo svojich procesoch zavádzať primerané ochranné opatrenia.

Agentická  AI vo výskume

Aktualizované usmernenia po novom podrobnejšie reagujú na rozvoj tzv. agentickej AI, ktorá dokáže s určitou mierou autonómie plánovať a vykonávať komplexné úlohy. Dokument upozorňuje, že vyššia autonómia môže zvyšovať riziká spojené so stratou kontroly, zodpovednosti a dôveryhodnosti vedeckých výsledkov.

AI agenti by preto mali zostať nástrojmi podporujúcimi výskum, nie samostatnými vedeckými aktérmi. Hypotézy, spracovanie údajov či závery vytvorené AI agentom musia byť overené výskumníkmi a konečná zodpovednosť zostáva na človeku.

Nadväznosť na májovú aktualizáciu

Aktuálna verzia nadväzuje na predchádzajúcu aktualizáciu z mája 2026, ktorá už reagovala na rýchly technologický vývoj a rastúce využívanie generatívnej AI vo výskume. Zdôraznila najmä potrebu transparentného používania AI, zachovania zodpovednosti výskumníkov, ochrany súkromia, dôverných informácií a práv duševného vlastníctva. Pozornosť venovala aj využívaniu AI tretími stranami a potrebe jasných pravidiel pre výskumné organizácie a financujúce subjekty.

Októbrová aktualizácia tieto odporúčania ďalej rozširuje o nové výzvy spojené s agentickou AI a podrobnejšie sa venuje využívaniu AI pri peer review a hodnotení návrhov na financovanie.

Usmernenia sú nezáväzné a dopĺňajú existujúce právne, inštitucionálne a odborové pravidlá. Prvá verzia bola zverejnená v marci 2024 a štvrtá verzia v októbri 2026. Ďalšia revízia je plánovaná na tretí štvrťrok 2027.

Viac informácií a aktualizovaná verzia

Zverjnené 27.10.2026, slord