KI-certificering en -beveiliging vanuit het oogpunt van bedrijven

De whitepaper »AI-certificering en beveiliging in de context van de EU AI-verordening« is gratis beschikbaar op internet via https://doi.org/10.24406/publica-1875

Het gebruik van Kunstmatige Intelligentie (KI) in privé- en professionele omgevingen neemt voortdurend toe. Tegelijkertijd worden op Europees niveau reguleringen besproken door middel van KI-certificering en -verzekering. De Fraunhofer-instituten IAO en IPA hebben daarom de huidige reguleringsmaatregelen geanalyseerd en eisen en behoeften van bedrijven samengevat in een nieuw whitepaper.

De afgelopen jaren is de betekenis van Kunstmatige Intelligentie (KI) zowel in het privéleven als in het beroepsleven sterk toegenomen. KI heeft het potentieel om talrijke industrieën en gebieden van onze samenleving te transformeren door efficiëntie en kwaliteit in verschillende toepassingsgebieden te verbeteren. Echter, het gebruik van KI brengt ook aanzienlijke risico's en onzekerheden met zich mee, zoals algoritmische fouten, aansprakelijkheidsrisico's, discriminatie en schendingen van privacy. Als KI-gestuurde systemen niet volgens uniforme veiligheidsnormen worden ontwikkeld, beheerd en getest, kunnen ze de veiligheid van producten en diensten in gevaar brengen.

Om deze uitdagingen het hoofd te bieden, heeft de Europese Unie (EU) in 2021 een wetsvoorstel gepresenteerd voor de EU AI Act, dat gericht is op het reguleren van KI. In juni 2023 konden de EU-commissie en het EU-parlement overeenstemming bereiken over een voorstel en onderhandelen momenteel over de implementatie met de EU-lidstaten. De AI Act, als een belangrijke bouwsteen voor KI-certificering en -verzekering, is ook van cruciaal belang voor de Innovation Park Artificial Intelligence, dat het grootste ecosysteem voor KI-ontwikkeling in Europa opbouwt. »In ons Ipai-ecosysteem willen we KI-toepassingen stimuleren die niet alleen innovatief en efficiënt zijn, maar ook veilig en ethisch verantwoord. Een praktijkgerichte kennis van de EU-normen uit de AI Act voor KI-verzekering helpt ons en onze lidbedrijven om alle noodzakelijke maatregelen te treffen«, benadrukt Moritz Gräter, de CEO van Ipai.

Ter voorbereiding op de komende EU AI Act hebben het Fraunhofer-instituut voor Arbeidsorganisatie en Bedrijfskunde IAO en het Fraunhofer-instituut voor Productietechniek en Automatisering IPA daarom de visie van bedrijven onderzocht. Zo heeft het onderzoeksteam de huidige stand van wettelijke reguleringen voor KI-verzekering in kaart gebracht. Op basis van de resultaten uit interviews met vakexperts heeft het team ook eisen geformuleerd vanuit bedrijven, onderzoeks- en onderwijsinstellingen voor de implementatie van verzekerings- en certificeringsprocessen voor KI-systemen.

Ontbrekende richtlijnen voor KI-verzekering als onzekerheidsfactor voor bedrijven

Volgens het huidige wetsvoorstel voor de EU AI Act wordt voorgesteld dat KI-toepassingen worden ingedeeld in verschillende risiconiveaus en onderworpen worden aan verschillende voorschriften. Operators van hoog-risico KI-toepassingen worden verplicht om hun conformiteit met deze eisen te controleren via een zelfbeoordeling en kunnen vervolgens het CE-label gebruiken als certificaat. Verplichte controles door derden zouden alleen in speciale gebieden nodig zijn, zoals bijvoorbeeld medische technologie.

Hoewel deze eisen heel duidelijk aangeven hoe een conform gebruik van KI volgens de EU AI Act eruit zou moeten zien, is het momenteel nog onduidelijk hoe dit bereikt kan worden. Er ontbreken concrete maatregelen voor de controle van de naleving. »Bedrijven hebben bijvoorbeeld moeite om in te schatten onder welke omstandigheden hun KI-toepassing transparant genoeg is of welke foutmarge acceptabel is«, legt Janika Kutz uit, teamleider bij het onderzoeks- en innovatiecentrum voor cognitieve dienstverleningssystemen KODIS van het Fraunhofer IAO. Eveneens bestaat de vrees dat de kosten voor certificering vooral de middelen van start-ups en kleinere en middelgrote ondernemingen overstijgen. Er wordt gevreesd dat juridische expertise nodig is om de voorschriften volledig correct uit te voeren, wat de ontwikkeltijden en -kosten verhoogt, zodat Europese bedrijven niet kunnen concurreren met internationale spelers.

Bedrijven formuleren duidelijke eisen voor KI-certificering

Een belangrijk resultaat van de interviews is dat de certificering voor bedrijven van elke omvang haalbaar moet zijn. Elke toepassing laten verzekeren en certificeren is arbeidsintensief en kostbaar, daarom stellen bedrijven duidelijke eisen aan regelgeving voor KI-verzekering. Factoren zoals transparantie en haalbaarheid van certificeringsprocessen, duidelijke rollen van overheden en instanties, en het behoud van innovatievermogen worden als bijzonder belangrijk beschouwd. »De ondervraagde bedrijven zijn het erover eens dat bij KI-certificering altijd de meerwaarde voor de eindgebruikers centraal moet staan«, vat Prof. Dr. Marco Huber, hoofd van de afdeling Cyber Cognitive Intelligence bij Fraunhofer IPA, de resultaten van de interviews samen.

Externe ondersteuningsmogelijkheden voor bedrijven zijn gewenst

Op basis van de uitspraken van de geïnterviewden lijken de meeste bedrijven niet voldoende voorbereid op de komende reguleringen door de EU AI Act. Zo kunnen bedrijven profiteren van informatievoorziening, kennisdeling en netwerkmogelijkheden en zijn ze ook geïnteresseerd in individuele adviesdiensten en praktische methoden en tools ter ondersteuning bij de verzekerings- en certificeringsprocessen van KI-gestuurde systemen. Door voortdurende uitwisseling tussen regelgevende instanties, industrie, onderzoeksinstellingen en het brede publiek kan een breed begrip van de kansen en uitdagingen van KI-gebruik worden ontwikkeld. Dit zal uiteindelijk leiden tot de ontwikkeling van KI-systemen die effectiever, veiliger en praktijkgerichter zijn.

Het whitepaper »KI-certificering en -verzekering in de context van de EU AI Act« is gratis online beschikbaar via: https://doi.org/10.24406/publica-1875