Beheers kunstmatige intelligentie

© Fraunhofer IPA

© Fraunhofer IPA

Kunstmatige intelligentie heeft meestal het karakter van een black-box. Alleen transparantie kan echter vertrouwen scheppen. Om de respectievelijke oplossingsweg uit te leggen, bestaan er speciale software. Een studie van het Fraunhofer IPA heeft nu verschillende methoden vergeleken en beoordeeld die machine learning-methoden verklaarbaar maken.

Kunstmatige intelligentie, enkele decennia geleden nog sciencefiction, is inmiddels in het dagelijks leven aangekomen. In de productie herkent ze anomalieën in het productieproces, in banken beslist ze over kredieten en bij Netflix vindt ze voor elke klant de juiste film. Daarachter zitten hoogcomplexe algoritmen die in het verborgene opereren. Hoe veeleisender het probleem, des te complexer het KI-model – en daarmee ook ondoorzichtig.

Toch willen de gebruikers vooral bij kritische toepassingen begrijpen hoe een beslissing tot stand komt: Waarom werd het werkstuk als defect uitgesorteerd? Wat veroorzaakt de slijtage van mijn machine? Alleen zo zijn verbeteringen mogelijk, die steeds meer ook de veiligheid betreffen. Bovendien dwingt de Europese Algemene Verordening Gegevensbescherming (AVG) ertoe om beslissingen traceerbaar te maken.

Softwarevergelijking voor xAI

Om dit probleem op te lossen, is een heel onderzoeksveld ontstaan: de »Explainable Artificial Intelligence«, oftewel verklaarbare kunstmatige intelligentie, kortweg xAI. Op de markt zijn inmiddels talrijke digitale hulpmiddelen die complexe KI-oplossingswegen verklaarbaar maken. Ze markeren bijvoorbeeld in een afbeelding die pixels die ertoe hebben geleid dat defecte onderdelen werden uitgesorteerd. Experts van het Fraunhofer-Instituut voor Productietechniek en Automatisering IPA uit Stuttgart hebben nu negen gangbare verklaringsmethoden – zoals LIME, SHAP of Layer-Wise Relevance Propagation – met elkaar vergeleken en beoordeeld aan de hand van voorbeeldtoepassingen. Daarbij telden vooral drie criteria:

- Stabiliteit: Bij dezelfde taak moet het programma altijd dezelfde verklaring geven. Het mag niet zo zijn dat voor een anomalie in de productiemachine eens sensor A en dan sensor B verantwoordelijk wordt gesteld. Dit zou het vertrouwen in het algoritme ondermijnen en het afleiden van handelingsopties bemoeilijken.
- Consistentie: Tegelijkertijd zouden slechts gering afwijkende invoergegevens vergelijkbare verklaringen moeten opleveren.
- Herhaalbaarheid: Vooral belangrijk is dat verklaringen daadwerkelijk het gedrag van het KI-model weergeven. Het mag niet gebeuren dat de verklaring voor het weigeren van een bankkrediet een te hoge leeftijd van de klant noemt, terwijl eigenlijk het te lage inkomen doorslaggevend was.

De toepassing bepaalt de doorslaggevende factor

Conclusie van de studie: alle onderzochte verklaringsmethoden zijn bruikbaar gebleken. »Maar er bestaat niet één perfecte methode«, zegt Nina Schaaf, die bij het Fraunhofer IPA verantwoordelijk is voor de studie. Grote verschillen bestaan bijvoorbeeld in de verwerkingstijd die een methode nodig heeft. De keuze van de beste software hangt bovendien sterk af van de betreffende taakstelling. Zo zijn bijvoorbeeld Layer-Wise Relevance Propagation en Integrated Gradients bijzonder geschikt voor beeldgegevens. »En uiteindelijk is ook de doelgroep van een verklaring altijd belangrijk: een KI-ontwikkelaar wil en moet een verklaring anders gepresenteerd krijgen dan de productieleider, want beide trekken uit de verklaringen telkens andere conclusies«, vat Schaaf samen.

De studie »Verklarbare KI in de praktijk« is gratis beschikbaar via de volgende link: https://www.ki-fortschrittszentrum.de/de/studien/erklaerbare-ki-in-der-praxis.html