KI-engedélyezés és -biztosítás vállalatok nézőpontjából

A „Fehér könyv” című „AI- Tanúsítás és biztosítás az EU AI Törvény kontextusában” ingyenesen elérhető az interneten a https://doi.org/10.24406/publica-1875 címen

A mesterséges intelligencia (MI) alkalmazásának növekedése a magán- és üzleti környezetben folyamatosan nő. Egyidejűleg az európai szinten szabályozásokról folynak viták, például MI-igazolás és -biztosítás témakörében. A Fraunhofer Intézetek, az IAO és az IPA ezért elemezték a jelenlegi szabályozási intézkedéseket, és összefoglalták a vállalatok igényeit és követelményeit egy új whitepaperben.

Az elmúlt években a mesterséges intelligencia (MI) jelentősége mind a magán-, mind a szakmai életben erőteljesen növekedett. Az MI potenciálisan átalakíthat számos iparágat és társadalmi területet azzal, hogy hatékonyságot és minőséget javít különböző alkalmazási területeken. Ugyanakkor jelentős kockázatok és bizonytalanságok is társulnak az MI alkalmazásához, például algoritmikus hibák, felelősségi kockázatok, diszkrimináció és adatvédelmi problémák formájában. Ha az MI-alapú rendszereket nem egységes biztonsági szabványok szerint fejlesztik, üzemeltetik és ellenőrzik, az befolyásolhatja a termékek és szolgáltatások biztonságát.

Az ilyen kihívások kezelésére az Európai Unió (EU) 2021-ben bemutatott egy törvényjavaslatot az EU MI Törvény (AI Act) formájában, amely az MI szabályozását célozza. 2023 júniusában az EU Bizottság és az EU Parlament megállapodtak egy javaslatban, és jelenleg az EU tagállamokkal tárgyalnak a végrehajtásról. Az MI Törvény, mint a MI-igazolás és -biztosítás egyik fontos építőköve, központi szerepet tölt be az Innovation Park Artificial Intelligence fejlesztésében, amely Európa legnagyobb MI-ökoszisztémáját építi. „Az Ipai-ökoszisztémánkban olyan MI-alkalmazásokat kívánunk támogatni, amelyek nemcsak innovatívak és hatékonyak, hanem biztonságosak és etikusak is. A EU-standards AI Act szerinti gyakorlati megértése segít nekünk és tagvállalatainknak minden szükséges intézkedést megtenni” – hangsúlyozza Moritz Gräter, az Ipai ügyvezető igazgatója.

A közelgő EU MI Törvényre való felkészülés részeként a Fraunhofer IAO Munkaügyi és Szervezési Intézete és a Fraunhofer Gyártástechnikai és Automatizálási Intézete ezért megvizsgálta a vállalatok nézőpontját. A kutatócsoport felmérte a jelenlegi jogi szabályozások állását az MI-biztosítás terén. Az interjúk szakembereivel készített eredmények alapján a csapat összefoglalta a vállalatok, kutatási és oktatási intézmények által támasztott követelményeket az MI-rendszerek biztosítási és tanúsítási folyamataira vonatkozóan.

Hiányzó irányelvek az MI-biztosításhoz, mint bizonytalansági tényező a vállalatok számára

A jelenlegi törvényjavaslat szerint az EU MI Törvényben az MI-alkalmazásokat különböző kockázati szintekre osztják, és ennek megfelelően különböző előírások vonatkoznak rájuk. A magas kockázatú MI-alkalmazások üzemeltetőit kötelezik arra, hogy saját értékelésükben ellenőrizzék megfelelőségüket ezeknek az előírásoknak, és ezután a CE-jelzést tanúsítványként használhatják. Köteles harmadik fél által végzett vizsgálat csak speciális területeken, például orvostechnikában szükséges.

Habár ezek az előírások világosan közvetítik, hogy hogyan kell egy EU MI Törvénynek megfelelő MI-alkalmazásnak kinéznie, jelenleg még nem világos, hogyan lehet ezt elérni. Nincsenek konkrét intézkedések az előírások ellenőrzésére. „A vállalatok például nehézségekbe ütköznek abban, hogy megítéljék, mikor elég átlátható a MI-alkalmazásuk, vagy milyen hibaarány tolerálható” – magyarázza Janika Kutz, a Fraunhofer IAO Kognitív Szolgáltatási Rendszerek Kutató- és Innovációs Központjának vezetője. Ugyanígy aggodalomra ad okot, hogy a tanúsítási költségek különösen a startupok és a kisebb és közepes vállalkozások erőforrásait terhelik. Félnek attól, hogy jogi szakértelem szükséges a követelmények teljes körű helyes végrehajtásához, és ez növeli a fejlesztési időt és költségeket, így az európai vállalatok nem tudnak versenyezni a nemzetközi piacon.

Vállalatok egyértelmű követelményeket fogalmaznak meg az MI-tanúsítással kapcsolatban

Az interjúk egyik fontos eredménye, hogy a tanúsításnak minden méretű vállalat számára megvalósíthatónak kell lennie. Minden alkalmazási terület biztosítása és tanúsítása idő- és erőforrás-igényes, ezért a vállalatok világos követelményeket támasztanak az MI-biztosítási szabályozásokkal kapcsolatban. Különösen fontosnak tartják a tanúsítási folyamatok átláthatóságát és megvalósíthatóságát, a hatóságok és intézmények szerepének egyértelműségét, valamint az innovációs képesség megőrzését. „A megkérdezett vállalatok egyetértenek abban, hogy az MI-tanúsítás során mindig a végfelhasználók számára nyújtott értékre kell összpontosítani” – összegzi Prof. Dr. Marco Huber, a Fraunhofer IPA Kiberkognitív Intelligencia Osztályának vezetője az interjúk eredményeit.

Külső támogatási lehetőségek iránti igény a vállalatok részéről

A megkérdezett vállalatok véleménye szerint a legtöbbjük nem készül fel megfelelően a közelgő EU MI Törvény szabályozásaira. Így az információátadás, tudásmegosztás és hálózatépítés révén profitálhatnak, továbbá érdeklődnek az egyéni tanácsadási szolgáltatások és a gyakorlati módszerek, eszközök iránt, amelyek segítenek az MI-alapú rendszerek biztosításában és tanúsításában. A szabályozó hatóságok, az ipar, a kutatóintézetek és a nyilvánosság folyamatos párbeszéde révén átfogó megértés alakulhat ki a MI-használat lehetőségeiről és kihívásairól. Ez végső soron hatékonyabb, biztonságosabb és gyakorlatiasabb MI-rendszerek fejlesztéséhez vezet.

A „KI-tanúsítás és -biztosítás az EU MI Törvény kontextusában” című whitepaper ingyenesen elérhető az interneten: https://doi.org/10.24406/publica-1875