Právně jisté zavedení AI do praxe: Reallabor KIRR Real vyvíjí příkladová řešení AI a robotiky

Insbesondere Robotika v nasazení bez ochranné opony vyžadují zvláštní bezpečnostní opatření. © Fraunhofer IPA/Foto: Rainer Bez

Například téma vysvětlitelnosti AI pomocí heatmap může přispět k vývoji v souladu s předpisy. © Fraunhofer IPA/Foto: Rainer Bez

Cílem projektu »KIRR Real: Reálné laboratoře pro právně shodnou AI a robotiku« Fraunhofer IPA a ARENA2036 bylo podpořit podniky v Bádensku-Württembersku při implementaci nařízení EU o AI a od roku 2027 platného nařízení EU o strojích. Výsledky spolupráce s 15 podniky jsou nyní zveřejněny a slouží jako orientační pomůcka pro podniky s podobnými aplikacemi při právně bezpečném vývoji AI a robotických systémů.

Čas tlačí, pokud jde o aktuální regulaci: od 2. srpna 2027 vstoupí v platnost povinnosti pro systémy AI s vysokým rizikem jako bezpečnostní komponenty a celý nařízení EU o AI se bude uplatňovat. Nové nařízení EU o strojích od ledna 2027 stanoví také nové požadavky na bezpečnostně relevantní AI a samoučící se systémy.

Regulační a technické poradenství pro podniky

KIRR Real pomáhal podnikům pochopit a implementovat tyto složité regulační požadavky. Pro tento účel byly nabízeny „Legal Quick Checks“, tedy krátké kompaktní poradenské projekty. Advokátní kancelář tyto případy zařadila do jedné ze čtyř rizikových tříd nařízení AI (od minimálního po nepřijatelný riziko). Následně Fraunhoferův institut pro výrobu a automatizaci IPA prověřil technickou dokumentaci a základní koncepty vývoje AI, aby zhodnotil právní shodu systémů a navrhl praktické doporučení.

Projekt probíhal od 15. listopadu 2024 do 31. prosince 2025 a byl financován Ministerstvem hospodářství, práce a turistiky Bádenska-Württemberska. V konsorciu spolupracovalo Fraunhofer IPA a výzkumné centrum ARENA2036, doprovázeli je také několik přidružených partnerů. Hlavními cíli projektu bylo zjistit, jak dobře jsou podniky v Bádensku-Württembersku připraveny na nařízení AI a nařízení o strojích, jak tyto dvě nařízení spolu souvisejí a překrývají se, a kde jsou ještě překážky v regulaci AI.

Získané poznatky poskytují impulzy pro praktickou implementaci a další rozvoj regulace AI a aktivně se odrážejí v legislativním procesu, například účastí na normotvorných orgánech, pravidelným výměnami s Bundesnetzagentur, Bundesanstalt für Arbeitsschutz und Arbeitsmedizin a workshopem s Bundesministerium für Arbeit und Soziales. Výsledky projektu mají také přispět k tvorbě reálných laboratoří, které jsou součástí nařízení AI.

Vytváření povědomí o regulačních požadavcích

V průběhu projektu bylo zpracováno 15 případů použití AI z oblastí jako výroba, humanoidní robotika, zdravotnictví a personální management. I podniky s pokročilým vývojem AI stále potřebovaly podporu při implementaci nařízení AI. Během diskuzí se také ukázalo, že povědomí o nadcházejících regulacích často nestačí. Při aplikaci nařízení AI byla často zohledněna buď právní nebo technická rovina. Oba aspekty a včasná práce s regulací AI jsou však klíčové pro úspěšnou realizaci aplikací.

Výzvy při implementaci právních předpisů

Zejména zařazení do rizikových tříd představuje pro podniky výzvu. Toto zařazení je klíčové pro plánování zdrojů, ale někdy není jednoznačné a závisí na detailech konkrétního případu použití. Proto není vždy možné se orientovat podle podobných případů.

Nedostatek harmonizovaných norem má za následek, že více systémů AI musí podstoupit posouzení shody třetí stranou. Pokud jde o nařízení o strojích, řada odborníků také vidí potřebu vyjasnění, co přesně znamená systém s „samostatně se vyvíjejícím chováním“.

Další otázkou je technická realizace požadavků. Mnoho podniků řeší otázky jako: Jak musí být doklady předloženy? Jak rozsáhlá musí být dokumentace? Kdy je AI součástí stroje? Také práce s více platnými předpisy je často nejasná a způsobuje obavy z zbytečné administrativní zátěže. Navíc mnoho podniků nevytváří systémy AI úplně samostatně, ale využívá existující modely obecného účelu, což ztěžuje splnění požadovaných důkazů. Dosud dostupné průvodce a podpůrné materiály tyto praktiky téměř nezohledňovaly.

Další výzvou je integrace AI do robotů a dalších strojů podle nové nařízení o strojích: podniky musí kromě dodržování nových pravidel pro AI v bezpečnostních funkcích během následujících dvanácti měsíců také upravit své stávající produkty podle nového nařízení.

Doporučení z reálné laboratoře

Zkušenosti z projektu KIRR Real ukazují, že ačkoliv existují podniky, které se s nařízeními již zabývají, stále přetrvávají problémy kvůli nejasnostem, množství regulací a absenci harmonizovaných norem.

Je naléhavě potřeba konkrétních, praktických a snadno realizovatelných průvodců a strukturovaných postupů, které začínají již v rané fázi vývoje. Především jsou týmy vývoje AI, bez ohledu na velikost podniku, často malé a mají potíže s nároky na zdroje. Podpůrné nabídky (například reálné laboratoře) by měly být co nejvíce dostupné, aby přinášely skutečnou přidanou hodnotu. Podniky by měly již v raných fázích vývoje dostávat podporu, například prostřednictvím právního posouzení případu použití, workshopů nebo poradenství při vývoji systému.

Fraunhofer IPA bude i nadále sbírat poznatky z projektu a aktivně je využívat v legislativním procesu a při přímé spolupráci s podniky. Podniky se mohou na naše kontaktní osoby obracet s žádostmi. Cílem je nadále prakticky rozvíjet regulaci AI a co nejlépe podporovat podniky v Bádensku-Württembersku.