KIV készítése biztonságkritikus alkalmazásokhoz

© Fraunhofer-Gesellschaft

Gyártási tervezés, logisztika, karbantartás, minőségellenőrzés – az ipari gyártásban sok területen alkalmazható a Mesterséges Intelligencia. A gyakorlatban azonban eddig még kevéssé használták az MI-modelleket. Ennek az az oka: a megbízhatóság nehezen ellenőrizhető. Az új tanúsítási kritériumok alkalmassá tehetik az MI-t a biztonságkritikus alkalmazásokra.

A várakozások szinte felülmúlhatatlanok: a Mesterséges Intelligenciának rugalmassá kell tennie a gyártást, előre kell jeleznie a karbantartást, optimalizálnia kell az áruforgalmat, automatizálnia kell a logisztikát, automatizálni kell a minőségellenőrzéseket. »Valóban az elmúlt években – többek között a Fraunhofer IPA-nál – számos ígéretes MI-algoritmust és –architektúrát fejlesztettek ki, például számítógépes látás, ember-gép interfészek vagy hálózatba kötött robotika terén«, mondja Xinyang Wu a Cyber Cognitive Intelligence Központból az IPA-nál. Ami most hiányzik, az a gyakorlati megvalósítás. »A kutatás és a gyakorlat között egy szakadék tátong. Az iparban az új MI-alkalmazásokat csak késlekedve alkalmazzák. Nem tekintik elég megbízhatónak a biztonságkritikus alkalmazásokhoz.«

Wu első kézből ismeri a felhasználók fenntartásait: »Amikor az ipari partnereinkkel beszélünk, gyorsan világossá válik, hogy a vállalatok például csak akkor akarnak autonóm és öntanuló robotokat használni, ha azok teljes mértékben megbízhatóan működnek, és száz százalékos biztonsággal lehet mondani, hogy a gépek nem jelentenek veszélyt az emberre.«

Eddig ezt nem lehet bizonyítani. Nincsenek normák vagy szabványos tesztek. Ezek azonban sürgősen szükségesek – hangsúlyozza Wu: »A cél az kell legyen, hogy a döntéseket, amelyeket az algoritmusok hoznak, tanúsíthatóvá és átláthatóvá tegyük. Például biztosítani kell a nyomon követhetőséget: ha egy gép önállóan hoz döntést, akkor legalább utólag meg kell tudni mondani, miért követett el hibát egy adott helyzetben. Csak így lehet megakadályozni, hogy ez újra megtörténjen. A fekete doboz-modellek, amelyeknél nem lehet visszakövetni az algoritmus döntéseit, véleményünk szerint nem alkalmasak közvetlenül a biztonságkritikus alkalmazásokra – kivéve, ha a modellt a megfelelő módszerrel tanúsítják.«

De hogyan ellenőrizzük az MI-t? Az IPA-csapat a Cyber Cognitive Intelligence Központban most egy stratégiát javasolt, és a vonatkozó technológia állásáról a »Zuverlässige KI – KI biztonságkritikus ipari alkalmazásokban« című fehér könyvben számol be: A stratégia a tanúsíthatóságon és az átláthatóságon alapul.

Szempontkatalógus a nagyobb biztonságért

»Elsődleges célunk az volt, hogy szabályokat találjunk, amelyek segítségével értékelhető a Gépi Tanulás és a hozzá tartozó MI megbízhatósága«, mondja Wu. Ennek a kutatásnak az eredménye öt kritérium, amelyeket az MI-rendszereknek teljesíteniük kell ahhoz, hogy biztonságosnak tekinthetők legyenek:

- Minden algoritmus döntésének érthetőnek kell lennie az emberek számára.
- Az algoritmusok működését a bevezetés előtt formális verifikációs módszerekkel kell ellenőrizni.
- Ezen túl statisztikai validálás szükséges, különösen akkor, ha a formális verifikáció a skálázhatóság miatt nem alkalmazható az adott esetben. Ezt tesztfutásokkal lehet ellenőrizni nagyobb adatmennyiségekkel vagy darabszámokkal.
- A neurális hálók döntéseinek alapjául szolgáló bizonytalanságokat is meg kell határozni és kvantifikálni.
- A működés során a rendszereket folyamatosan ellenőrizni kell, például online monitorozással. Fontos a bemeneti és kimeneti adatok – az érzékelőadatok és azok értékeléséből származó döntések – rögzítése.

Ezek a kritériumok képezhetik a jövőben a szabványosított vizsgálatok alapját – hangsúlyozza Wu: »Az IPA-nál már összeállítottunk különböző algoritmusokat és módszereket mindegyik pontra, amelyekkel valóban ellenőrizhető az MI-rendszerek megbízhatósága. Néhány ügyfelünknél már elvégeztünk ilyen vizsgálatokat.«

Átláthatóság bizalmat épít

A biztonságos MI-rendszer alkalmazásának második alapfeltétele az átláthatóság. Ez az Európai Bizottság »High-Level Expert Group on Artificial Intelligence« (HLEG AI) etikai irányelvei szerint az egyik kulcselem a megbízható MI megvalósításához. Ez az átláthatóság, ellentétben azokkal a kritériumokkal, amelyek az algoritmikus szinten ellenőrizhetők a megbízhatóság szempontjából, kizárólag az emberrel való interakció szintjén érvényesül. Három pont foglalja össze a HLEG AI irányelvei szerint, amit az átlátható MI-nek teljesítenie kell: Először is, a gépi döntések nyomon követhetőek kell legyenek. Másodszor, az emberek számára átfogó szinten lehetővé kell tenni a döntések magyarázatát.

És harmadszor, a MI-rendszerek kommunikálniuk kell az emberrel, és tájékoztatniuk kell arról, milyen képességekkel rendelkeznek az algoritmusok, és hol lépnek határra.

»Csak akkor, ha sikerül a megbízhatóságot önálló, autonóm MI-rendszerek esetében szabványosított módszerekkel tesztelni, és figyelembe venni az etikai szempontokat is, a felhasználók bízhatnak a MI-ben – akár az utakon, akár a gyártócsarnokban«, jósolja Wu. »Ha ez a bizalom megvan, akkor bezárul a szakadék a kutatás és a gyakorlat között.«

A »Zuverlässige KI – KI biztonságkritikus ipari alkalmazásokban« című tanulmány letölthető innen: https://www.ki-fortschrittszentrum.de/de/studien/zuverlaessige-ki.html