Biztonságosan jogilag helytálló módon az gyakorlatba átültetni: Reallabor KIRR Real kivételes példákat mutat be KI- és robotikai megoldásokból

Különösen a robotika védőkerítés nélküli alkalmazása különleges biztonsági intézkedéseket igényel. © Fraunhofer IPA/Kép: Rainer Bez

Például az AI magyarázhatóságának témája hőtérképek segítségével hozzájárulhat a szabályozási megfeleléshez. © Fraunhofer IPA/Fotó: Rainer Bez

A „KIRR Real: Reallabor für rechtskonforme KI und Robotik“ célja a Fraunhofer IPA és az ARENA2036 részéről az volt, hogy támogatást nyújtson Baden-Württemberg vállalatainak az EU AI törvényének és a 2027-től hatályos EU gépészeti rendelet végrehajtásában. A 15 vállalattal folytatott együttműködés eredményei most nyilvánosságra kerültek, és hasznos iránymutatást adnak hasonló alkalmazásokat fejlesztő cégek számára a jogilag megfelelős KI- és robotikai alkalmazások fejlesztéséhez.

A határidők sürgetőek, különösen a jelenlegi szabályozás tekintetében: 2027. augusztus 2-án lépnek hatályba a magas kockázatú KI rendszerek biztonsági komponenskénti kötelezettségei, és az egész EU AI törvény alkalmazásra kerül. Az új EU gépészeti rendelet 2027 januárjától új követelményeket ír elő a biztonságilag releváns KI és önállóan tanuló rendszerek számára.

Szabályozási és technikai tanácsadás vállalatoknak

A KIRR Real segített a vállalatoknak megérteni és végrehajtani ezeket a komplex szabályozási követelményeket. Ennek érdekében „Legal Quick Checks” szolgáltatásokat kínáltak, rövid, tömör tanácsadási projekteket. Egy jogi iroda ezeket az eseteket a AI törvény négy kockázati osztályának egyikébe sorolta (a minimális és az elviselhetetlen kockázat között). Ezután a Fraunhofer Gyártástechnikai és Automatizálási Intézet IPA ellenőrizte a technikai dokumentációt és a KI fejlesztésének alapelveit, hogy értékelje a rendszerek jogi megfelelőségét, és gyakorlati tanácsokat dolgozzon ki.

A projekt 2024. november 15-től 2025. december 31-ig tartott, és Baden-Württemberg Gazdasági, Munkaügyi és Turisztikai Minisztériuma finanszírozta. A konzorcium tagjai voltak a Fraunhofer IPA és az ARENA2036 kutatási campus, több társult partnerrel együttműködve. A projekt központi kérdése az volt, hogy felmérje, mennyire felkészültek a vállalatok Baden-Württembergben az AI törvényre és a gépészeti rendeletre, hogyan működnek együtt ezek a jogszabályok, és hol vannak még akadályok a KI szabályozásában.

A projekt eredményei ösztönzést adnak a gyakorlati alkalmazás és a KI szabályozás további fejlesztése számára, és aktívan visszacsatolásként szolgálnak a jogalkotási folyamatba, például normagyűlésekben való részvétellel, rendszeres egyeztetésekkel a Szövetségi Hálózati Ügynökséggel, a Szövetségi Munka- és Egészségügyi Intézettel, valamint egy workshop keretében a Szövetségi Munkaügyi és Szociális Minisztériummal. A KI törvény által előírt Reallaborek kialakításába is beépülnek a projekt eredményei.

Felelősségtudat növelése a szabályozási követelmények iránt

A projekt során 15 KI-alkalmazási eset került feldolgozásra olyan területeken, mint a gyártás, humanoid robotika, egészségügy és személyzeti menedzsment. Még fejlett KI-fejlesztéssel rendelkező vállalatoknak is szükségük volt támogatásra az AI törvény végrehajtásában. A beszélgetések során kiderült, hogy a jövőbeli szabályozások iránti tudatosság gyakran nem elégséges. A KI törvény alkalmazásakor gyakran csak a jogi vagy a technikai szintet vették figyelembe. Mindkettő fontos, és a KI szabályozásával való korai foglalkozás kulcsfontosságú a sikeres alkalmazás szempontjából.

Kihívások a jogszabályok végrehajtásában

Különösen a kockázati osztályba sorolás jelent kihívást a vállalatok számára. Ez döntő a források tervezése szempontjából, de néha nem egyértelmű, és nagyban függ az alkalmazás részleteitől. Ezért nem mindig lehet hasonló esetekhez viszonyítani.

A harmonizált szabványok hiánya miatt több KI-rendszernek harmadik fél által végzett megfelelőségi vizsgálaton kell átesnie. A gépészeti rendelet kapcsán sok szakértő szerint további tisztázásra van szükség, hogy pontosan mit értünk „önfejlesztő viselkedésű” rendszerek alatt.

Egy másik kérdés a követelmények technikai megvalósítása. Sok vállalat kérdései között szerepel, hogy: Hogyan kell bizonyítékokat szolgáltatni? Milyen mértékben kell dokumentálni? Mikor számít egy KI a gép részének? Az is gyakori, hogy nem világos, hogyan kezeljük több érvényben lévő szabályozást, ami felesleges többletmunkát okoz. Emellett sok vállalat nem teljesen saját fejlesztésű KI-rendszereket használ, hanem meglévő általános célú AI-modelleket alkalmaz, ami megnehezíti a szükséges bizonyítékok szolgáltatását. A rendelkezésre álló iránymutatások és segédanyagok eddig ezekkel a gyakorlatokkal kevéssé foglalkoztak.

A KI integrálása robotokba és más gépekbe a új gépészeti rendelettel szemben még kihívás: a vállalatoknak nemcsak az új szabályokat kell betartaniuk a biztonsági funkciókban, hanem a következő tizenkét hónapban meglévő termékeiket is át kell alakítaniuk az új rendelet szerint.

Ajánlások a Reallabor tapasztalatai alapján

A KIRR Real tapasztalatai azt mutatják, hogy bár vannak vállalatok, amelyek foglalkoznak a rendeletekkel, a meglévő bizonytalanságok, a sokféle szabályozás figyelembevétele és a harmonizált szabványok hiánya problémákat okoznak.

Sürgős szükség van konkrét, gyakorlati és könnyen alkalmazható iránymutatásokra, valamint strukturált megközelítésekre, amelyek már a fejlesztés korai szakaszában alkalmazhatók. Különösen az KI-fejlesztő csapatok, függetlenül a vállalat méretétől, gyakran kicsik, és nehézséget okoz számukra a szükséges erőforrások kezelése. Támogató szolgáltatások (például Reallaborek) legyenek minél könnyen elérhetők, hogy valódi értéket nyújtsanak. A vállalatoknak már a korai fejlesztési szakaszban támogatást kellene kapniuk, például jogi értékelés, workshop vagy tanácsadás formájában a rendszer fejlesztése során.

A Fraunhofer IPA továbbra is gyűjti a projekt eredményeit, aktívan részt vesz a jogalkotási folyamatban, és közvetlenül együttműködik a vállalatokkal. Ehhez kérhetik szakértőink segítségét. Célunk, hogy a KI szabályozását gyakorlatias módon fejlesszük, és Baden-Württemberg vállalatainak optimális támogatást nyújtsunk.