Padronanza dell'intelligenza artificiale

© Fraunhofer IPA

© Fraunhofer IPA

L'intelligenza artificiale ha per lo più carattere di scatola nera. Tuttavia, solo la trasparenza può creare fiducia. Per spiegare il percorso di soluzione specifico, esistono software specializzati. Uno studio dell'Istituto Fraunhofer IPA ha confrontato e valutato diversi metodi che rendono spiegabili le tecniche di apprendimento automatico.

L'intelligenza artificiale, fino a pochi decenni fa fantascienza, è ormai entrata nella vita quotidiana. Nella produzione riconosce anomalie nel processo produttivo, nelle banche decide sui prestiti e su Netflix trova il film adatto per ogni cliente. Dietro ci sono algoritmi altamente complessi che operano in segreto. Più il problema è complesso, più il modello di IA è articolato – e quindi anche più difficile da interpretare.

Ma gli utenti vogliono soprattutto in applicazioni critiche capire come si arriva a una decisione: perché il pezzo è stato scartato come difettoso? Cosa causa l'usura della mia macchina? Solo così è possibile migliorare, e ciò riguarda sempre più anche la sicurezza. Inoltre, il Regolamento Generale sulla Protezione dei Dati europeo impone di rendere le decisioni trasparenti.

Confronto software per xAI

Per risolvere questo problema è nato un intero campo di ricerca: l'«Intelligenza Artificiale Spiegabile», abbreviato in xAI. Sul mercato ci sono ormai numerosi strumenti digitali che rendono spiegabili percorsi complessi di IA. Ad esempio, evidenziano in un'immagine i pixel che hanno portato alla selezione di parti difettose. Esperti dell'Istituto Fraunhofer per la Tecnologia di Produzione e Automazione IPA di Stoccarda hanno confrontato nove metodi di spiegazione comuni – come LIME, SHAP o Layer-Wise Relevance Propagation – e li hanno valutati tramite applicazioni esemplificative. Sono stati considerati soprattutto tre criteri:

- Stabilità: per lo stesso compito, il programma dovrebbe fornire sempre la stessa spiegazione. Non si può permettere che, per un'anomalia nella macchina di produzione, venga attribuito prima a sensore A e poi a sensore B. Ciò distruggerebbe la fiducia nell'algoritmo e renderebbe difficile derivare azioni correttive.
- Coerenza: allo stesso tempo, dati di input leggermente diversi dovrebbero ricevere spiegazioni simili.
- Fiducia nella riproducibilità: è particolarmente importante che le spiegazioni riflettano realmente il comportamento del modello di IA. Non deve succedere che la spiegazione del rifiuto di un prestito bancario indichi un'età troppo alta del cliente, quando in realtà il motivo era un reddito troppo basso.

Il caso d'uso è determinante

Conclusione dello studio: tutti i metodi di spiegazione analizzati si sono dimostrati utili. «Ma non esiste un metodo perfetto», afferma Nina Schaaf, responsabile dello studio presso l'Istituto Fraunhofer IPA. Vi sono grandi differenze, ad esempio, nei tempi di esecuzione necessari per un metodo. La scelta del miglior software dipende inoltre molto dal compito specifico. Ad esempio, Layer-Wise Relevance Propagation e Integrated Gradients sono particolarmente adatti per dati di immagine. «E infine, anche il pubblico a cui è rivolta una spiegazione è importante: uno sviluppatore di IA desidera e dovrebbe ricevere una spiegazione in modo diverso rispetto al responsabile di produzione, poiché entrambi traggono conclusioni diverse dalle spiegazioni», riassume Schaaf.

Lo studio «Intelligenza Artificiale Spiegabile nella Pratica» è disponibile gratuitamente al seguente link: https://www.ki-fortschrittszentrum.de/de/studien/erklaerbare-ki-in-der-praxis.html