Független MI-ellenőrzés: A Fraunhofer IPA vizsgálja az Experian gépi tanulási rendszerét

Egy audit a Fraunhofer IPA-nál (a grafikon második lépése) megerősíti, hogy az Experian csalásfelderítő megoldásának ML-komponense helyes fejlesztést és nyomon követhető eredményeket mutat. © Experian

A Fraunhofer Gyártástechnika és Automatizálás Intézete IPA auditálta az Experian információszolgáltató „Transaction Miner” gépi tanulási komponensét. A Transaction Miner az Experian csalásmegelőző megoldásának, az AI:drian-nak egyik alapvető összetevője. Az audit megerősítette, hogy a Transaction Miner fejlesztése helyesen és a releváns legjobb gyakorlatoknak megfelelően történt, valamint a modell következetes eredményeket szolgáltat.

A gépi tanulás (ML) a Mesterséges Intelligencia (MI) leggyakrabban alkalmazott módszere. Az ML-rendszerek példák alapján nagyrészt önállóan tanulnak meg felismerni bizonyos mintákat vagy szabályszerűségeket. Az edzett modellben lévő összefüggések azonban nem minden esetben nyilvánvalóak, azaz a logika, hogy a kiindulási információkból hogyan származik az eredmény, gyakran alig látható. Ezért a nyilvános vitákban gyakran a fekete doboz metaforát használják. Ez azt jelenti, hogy az ML-rendszereket nemcsak pozitívan, hanem kritikusan is értékelik, ami további akadályt jelent a technológia szélesebb körű alkalmazásában.

Részletes elemzés a ML-megoldásról

Mint minden modellalkalmazás esetében, különösen az ML-rendszerek esetében is felelősségteljes és szabálykövető kezelés szükséges. A technológiai fejlődés új lehetőségeket nyitott meg, ezért az EU Bizottság éppen egy jogszabálytervezetet dolgoz ki, hogy szabályozza az MI alkalmazását. Annak érdekében, hogy az ügyfelek biztonságban legyenek a AI:drian csalásmegelőző megoldás alkalmazásakor, az Experian megbízta a Fraunhofer IPA-t, hogy értékelje, az ML-komponens, a Transaction Miner, minden legjobb gyakorlatot és jogi előírást figyelembe véve lett-e fejlesztve, és következetes eredményeket szolgáltat-e. Az ellenőrzéshez az EU tervezete mellett egy white paper a TÜV Austria-tól, valamint egy MI-ellenőrző katalógus a Fraunhofer Intézet az Intelligens Elemzési és Információs Rendszerek (IAIS) területéről szolgált alapul, melyek irányt mutatnak a jövőbeli piaci szabványok számára. Egy alapos, négy hónapos vizsgálati időszak végén ez a kutatás pozitív eredménnyel zárult.

„Figyelemmel kísérjük, hogy egyre több ML-rendszer kerül olyan területeken alkalmazásra, amelyeket az EU Bizottság kritikusnak határozott meg, például önvezető autókban vagy – mint ebben az esetben – a fogyasztók csalási szándékainak és hitelképességének vizsgálatában,” magyarázza Professor Marco Huber, a Fraunhofer IPA Cyber Cognitive Intelligence (CCI) osztályának vezetője. „Nem minden részlet ismert még az EU jövőbeli jogszabályairól. Azonban, hogy milyen algoritmusoknak kell megfelelniük, amelyek igazságos, magyarázható és következetes eredményeket nyújtanak, nem triviális, de nem is varázslat. A Transaction Miner vizsgálata lehetőséget adott arra, hogy betekintést nyerjünk egy olyan termékbe, amely már a gyakorlatban is működik, és dolgozzunk egy szabványosított eljáráson, amely akkor lesz hasznos, amikor az EU jogszabályai jogerőssé válnak.”

Munkaerő-megtakarítás több mint 95 százalék

A Fraunhofer IPA által vizsgált Transaction Miner a csalásmegelőző AI:drian megoldás központi összetevője, amelyet az Experian nemrég dobott piacra a DACH régióban. A használt ML-algoritmusok segítségével az AI:drian megbízhatóbban képes felismerni az online csalási kísérleteket, mint korábbi rendszerek. Egy e-kereskedelmi szektorbeli pilot ügyfélnél a Transaction Miner által az edzés alapján legitimként azonosított tranzakciók 99,9 százaléka nem volt csalárd, így nem utasították el azokat. Ezért a havi kb. 7000 rendeléskérés helyett már csak 300-at kellett manuálisan ellenőrizni – ez több mint 95 százalékos munkaerő-megtakarítást jelentett.

„Az új fejlesztések, mint például a gépi tanulás, nyilvánosan is kritikus figyelmet kapnak,” kommentálja Martina Neumayr, az Experian DACH Kreditkockázat & csalás szolgáltatások senior alelnöke. „Vannak példák arra, hogy ML-rendszerek kérdéses eredményeket adnak. A Transaction Miner esetében egy különösen erőteljes ML-komponenst fejlesztettünk ki, amely akkor is alkalmazható, amikor az EU Bizottság szigorú szabályozási szükségletet lát, például a pénzügyi szektorban. Ezért különösen fontosnak tartottuk, hogy átláthatóan működjünk, és függetlenül ellenőriztessük a technológiát. Hisszük, hogy az új technológiák alkalmazása csak akkor nyerhet elfogadást, ha vannak független ellenőrzések, mint például a Fraunhofer IPA által végzett vizsgálatok. Ezért külön öröm, hogy ezzel az úttörő munkával megteremtettük az utat egy jövőbeli szabványosított eljárás számára.”

Sokoldalú kínálat a „Megbízható MI” témakörében

Az ilyen auditok, mint a leírtak, a Fraunhofer IPA CCI osztályának egyik fő szolgáltatása. Az egyik kutatási területük a „Megbízható MI” kérdése. Ennek keretében az IPA-szakértők többek között módszereket fejlesztenek a MI rendszerek magyarázhatóságára és biztonságára. Ide tartozik az auditok végrehajtása, valamint a MI rendszerek független és jogilag megfelelőségi validálása vagy minősítése. A szolgáltatások iparágfüggetlenek, és kezdő vállalkozásoktól a nagyvállalatokig minden cég számára alkalmasak.

A Fraunhofer IPA-ról

A Fraunhofer Gyártástechnika és Automatizálás Intézet IPA, röviden Fraunhofer IPA, közel 1200 munkatárssal az egyik legnagyobb intézet a Fraunhofer Társaságon belül. Az intézet teljes költségvetése 82 millió euró. A gyártási folyamatokkal kapcsolatos szervezeti és technológiai feladatok kutatási fő területek. Módszereket, komponenseket és berendezéseket, egészen a teljes gépek és üzemek fejlesztéséig, teszteléséig és megvalósításáig. 19 szakterület dolgozik interdiszciplinárisan, 6 üzletág koordinálásával, elsősorban az autóipar, gép- és berendezésgyártás, elektronika és mikrorendszerek, energia, orvosi és biotechnológia, valamint a feldolgozóipar területein. Kutatásuk a fenntartható és személyre szabott termékek gazdaságos gyártására irányul.

A Experian DACH-ról

Az Experian globális vezető az információ- és IT-szolgáltatások terén. Az Experian segít ügyfeleinek magabiztosan használni az adatokat. Támogatja magánszemélyeket abban, hogy ellenőrzést szerezzenek pénzügyeik felett, és hozzáférjenek pénzügyi szolgáltatásokhoz. Vállalatokat segít abban, hogy okos, növekedést ösztönző döntéseket hozzanak. A hitelfelvevőket felelősségteljes hitelkezelésre kíséri. Szervezetek számára biztosítja a szükséges eszközöket az identitás-lopás és bűnözés elleni védelemhez. A DACH régióban az Experian minden méretű és szektorú vállalatnak, például e-kereskedelmi üzemeltetőknek, biztosítóknak, pénzügyi szolgáltatóknak és telekommunikációs cégeknek nyújtja a legjobb alapokat kockázat-, csalás- és identitáskezeléshez.