Mesterséges intelligencia uralása

© Fraunhofer IPA

© Fraunhofer IPA

Az intelligens mesterséges intelligencia általában fekete doboz-jellegű. Csak a transzparencia teremthet bizalmat. Egy speciális szoftver segít a megoldási útvonal magyarázatában. A Fraunhofer IPA tanulmánya most különböző módszereket hasonlított össze és értékelt, amelyek magyarázhatóvá teszik a gépi tanulási eljárásokat.

A mesterséges intelligencia, amely néhány évtizeddel ezelőtt még sci-fi volt, mára mindennapjaink része. A gyártásban felismeri a rendellenességeket a termelési folyamatban, a bankokban dönt a hitelek ügyében, és a Netflix minden ügyfél számára megtalálja a megfelelő filmet. Mögöttük összetett algoritmusok állnak, amelyek rejtve működnek. Minél összetettebb a probléma, annál bonyolultabb a MI-modell – és ezzel együtt kiismerhetetlenebb is.

Azonban a felhasználók különösen kritikus alkalmazások esetén szeretnék megérteni, hogyan születik egy döntés: Miért válogatták ki a hibás alkatrészt? Mi okozza a gépem kopását? Csak így lehet fejlesztéseket végrehajtani, amelyek egyre inkább a biztonságot is érintik. Emellett az európai adatvédelmi rendelet is kötelezi a döntések átláthatóvá tételét.

Szoftverösszehasonlítás az xAI-hoz

Ennek a problémának a megoldására egy egész kutatási terület alakult ki: az „Explainable Artificial Intelligence”, azaz az értelmezhető mesterséges intelligencia, röviden xAI. A piacon már számos digitális segéd található, amelyek összetett MI-megoldásokat magyaráznak el. Például egy képen megjelölik azokat a pixeleket, amelyek ahhoz vezettek, hogy hibás alkatrészek kerültek kiválogatásra. A stuttgarti Fraunhofer Ipar és Automatizálás Intézet szakértői most kilenc gyakori magyarázó eljárást – mint például a LIME, SHAP vagy Layer-Wise Relevance Propagation – hasonlítottak össze, és példákon keresztül értékelték őket. Ebben három szempont volt különösen fontos:

- Stabilitás: Ugyanazon feladat esetén a programnak mindig ugyanazt a magyarázatot kell adnia. Nem lehet, hogy egy anomáliáért egyszer az A szenzort, máskor a B szenzort teszik felelőssé. Ez rontaná a bizalmat az algoritmusban, és megnehezítené a cselekvési lehetőségek levonását.
- Konzisztencia: Ugyanakkor csak minimálisan eltérő bemeneti adatoknak hasonló magyarázatokat kell eredményezniük.
- Megbízhatóság: Különösen fontos, hogy a magyarázatok valóban tükrözzék a MI-modell viselkedését. Nem fordulhat elő, hogy például egy banki hitel elutasításánál a magyarázat a túl magas életkor, miközben valójában a túl alacsony jövedelem volt az ok.

A felhasználási eset a döntő

A tanulmány összegzése: Minden vizsgált magyarázó módszer hasznosnak bizonyult. „De nincs egyetlen tökéletes módszer” – mondja Nina Schaaf, aki a Fraunhofer IPA-nál a tanulmányért felelős. Nagy különbségek vannak például a futási időben, amit egy eljárás igényel. A legjobb szoftver kiválasztása továbbá nagymértékben függ a feladattól. Például a Layer-Wise Relevance Propagation és az Integrated Gradients különösen jól alkalmas képadatok esetén. „És végül mindig fontos a magyarázat célközönsége is: egy MI-fejlesztő másképp szeretné és kell, hogy lássa a magyarázatot, mint a gyártási vezető, mert mindkettő más következtetéseket von le a magyarázatokból” – összegzi Schaaf.

A „Magyarázható MI a gyakorlatban” című tanulmány ingyenesen elérhető a következő linken: https://www.ki-fortschrittszentrum.de/de/studien/erklaerbare-ki-in-der-praxis.html