KI rechtszeker in de praktijk brengen: Reallabor KIRR Real ontwikkelt voorbeeldige KI- en robotoplossingen

Met name robotica zonder beschermhek vereist bijzondere veiligheidsmaatregelen. © Fraunhofer IPA/Foto: Rainer Bez

Bijvoorbeeld het onderwerp van de uitlegbaarheid van AI met behulp van heatmaps kan bijdragen aan een regulatorisch conforme ontwikkeling. © Fraunhofer IPA/Foto: Rainer Bez

Het doel van »KIRR Real: Reallabor voor rechtsconforme AI en Robotica« van het Fraunhofer IPA en de ARENA2036 was om bedrijven in Baden-Württemberg te ondersteunen bij de implementatie van de EU AI-verordening en de vanaf 2027 geldende EU-machinerichtlijn. De resultaten van de samenwerking met 15 bedrijven zijn nu gepubliceerd en dienen vergelijkbare bedrijven als richtlijn voor de rechtszekere ontwikkeling van AI- en robottoepassingen.

De tijd dringt als het gaat om actuele regelgeving: Op 2 augustus 2027 treden de verplichtingen voor hoogrisico-AI-systemen als veiligheidscomponent in werking en wordt de volledige EU AI-verordening van toepassing. Ook de nieuwe EU-machinerichtlijn stelt vanaf januari 2027 nieuwe eisen voor veiligheidsrelevante AI en zelflerende systemen.

Regelgevende en technische begeleiding voor bedrijven

KIRR Real hielp bedrijven deze complexe regelgevende eisen te begrijpen en te implementeren. Hiervoor werden »Legal Quick Checks« aangeboden, korte compacte adviesprojecten. Een advocatenkantoor classificeerde deze gevallen in een van de vier risicocategorieën van de AI-verordening (van minimaal tot onaanvaardbaar risico). Vervolgens controleerde het Fraunhofer-instituut voor productie- en automatiseringstechniek IPA de technische documentatie en onderliggende concepten van de AI-ontwikkeling om de rechtsconformiteit van de systemen te evalueren en praktijkgerichte aanbevelingen te formuleren.

Het project liep van 15 november 2024 tot 31 december 2025 en werd gefinancierd door het Ministerie van Economie, Arbeid en Toerisme Baden-Württemberg. In het consortium werkten het Fraunhofer IPA en de onderzoekscampus ARENA2036 samen, begeleid door verschillende geassocieerde partners. Centrale doelstellingen van het project waren te onderzoeken hoe goed de bedrijven in Baden-Württemberg voorbereid zijn op de AI-verordening en de machinerichtlijn, hoe deze twee verordeningen samenwerken en overlappen, en waar nog obstakels bestaan in de AI-regelgeving.

De bevindingen uit het project bieden impulsen voor een praktische implementatie en verdere ontwikkeling van AI-regelgeving en worden actief teruggekoppeld in het wetgevingsproces, bijvoorbeeld door deelname aan normeringsorganen, regelmatige uitwisseling met de Bundesnetzagentur, het Bundesinstitut für Arbeitsschutz und Arbeitsmedizin en een workshop met het Bundesministerium für Arbeit und Soziales. Ook de resultaten worden meegenomen in de inrichting van de door de AI-verordening voorziene Reallaboren.

Bewustwording voor regelgevende eisen creëren

In de loop van het project werden 15 AI-toepassingsgevallen uit sectoren zoals productie, humanoïde robotica, gezondheidszorg en personeelsbeheer behandeld. Zelfs bedrijven met geavanceerde AI-ontwikkeling hadden nog ondersteuning nodig bij de implementatie van de AI-verordening. Uit gesprekken bleek ook dat het bewustzijn voor de komende regelgeving vaak niet voldoende is. Bij de toepassing van de AI-verordening werd vaak alleen de juridische of technische kant bekeken. Beide aspecten en de vroege betrokkenheid bij AI-regelgeving zijn echter cruciaal voor een succesvolle toepassing.

Uitdagingen bij de implementatie van de regelgeving

Met name de classificatie in risicocategorieën vormt voor bedrijven een uitdaging. Deze classificatie is bepalend voor de resourceplanning, maar is soms niet eenduidig vast te stellen en hangt sterk af van de details van de toepassing. Een vergelijking met soortgelijke gevallen is daarom niet altijd mogelijk.

Het ontbreken van geharmoniseerde normen leidt ertoe dat meer AI-systemen een conformiteitscontrole door derden moeten ondergaan. Met het oog op de machinerichtlijn zien veel experts bovendien behoefte aan verduidelijking over wat precies wordt verstaan onder een systeem met »zelfontwikkelend gedrag«.

Een ander thema is de technische uitvoering van de eisen. Veel bedrijven vragen zich af: Hoe moeten bewijzen worden geleverd? Hoe uitgebreid moet de documentatie zijn? Wanneer is AI onderdeel van een machine? Ook het omgaan met meerdere geldende regelgevingen is vaak onduidelijk en veroorzaakt angst voor onnodige extra werkdruk. Bovendien ontwikkelen veel bedrijven AI-systemen niet volledig zelf, maar gebruiken bestaande General-Purpose-AI-modellen voor hun toepassingen, wat het leveren van de vereiste bewijzen bemoeilijkt. De beschikbare leidraden en hulpmiddelen hebben deze praktijk tot nu toe nauwelijks meegenomen.

Voor de integratie van AI in robots en andere machines vormt de nieuwe machinerichtlijn nog een uitdaging: bedrijven moeten naast het naleven van de nieuwe regels voor AI in veiligheidsfuncties in de komende twaalf maanden ook hun bestaande producten aanpassen aan de nieuwe verordening.

Aanbevelingen uit het Reallabor

De ervaringen uit KIRR Real maken duidelijk dat er wel bedrijven zijn die zich met de regelgeving bezighouden, maar dat bestaande onduidelijkheden, de vele te overwegen regelgevingen en het ontbreken van geharmoniseerde normen problemen veroorzaken.

Er is dringend behoefte aan concrete, praktijkgerichte en gemakkelijk uitvoerbare leidraden en gestructureerde aanpakken die al vroeg in de ontwikkeling worden ingezet. Vooral AI-ontwikkelteams, ongeacht de grootte van het bedrijf, zijn vaak klein en hebben moeite om de benodigde inspanningen te beheren. Ondersteuningsaanbiedingen (zoals bijvoorbeeld Reallaboren) moeten daarom zo laagdrempelig mogelijk zijn om echte meerwaarde te bieden. Bedrijven zouden bovendien al in vroege ontwikkelingsfasen ondersteuning moeten krijgen, bijvoorbeeld door juridische beoordeling van een toepassing, workshops of advies tijdens de ontwikkeling van een systeem.

Het Fraunhofer IPA blijft de inzichten uit het project verzamelen en actief inzetten in het wetgevingsproces, evenals voor directe samenwerking met bedrijven. Bedrijven kunnen hiervoor contact opnemen met onze contactpersonen. Het doel blijft om de AI-regelgeving praktisch verder te ontwikkelen en bedrijven in Baden-Württemberg optimaal te ondersteunen.