Prepararsi adeguatamente per applicazioni critiche per la sicurezza

© Società Fraunhofer

Pianificazione della produzione, logistica, manutenzione, controllo qualità – nella produzione industriale ci sono molti ambiti di applicazione dell'Intelligenza Artificiale. Nella pratica, i modelli di IA sono ancora poco utilizzati. Il motivo: l'affidabilità è difficile da verificare. Nuovi criteri di certificazione possono rendere l'IA adatta per applicazioni critiche per la sicurezza.

Le aspettative sono quasi insuperabili: l'intelligenza artificiale dovrebbe rendere più flessibile la produzione, pianificare la manutenzione in modo predittivo, ottimizzare il flusso di merci, automatizzare la logistica, automatizzare i controlli di qualità. »Negli ultimi anni – anche presso il Fraunhofer IPA – sono stati sviluppati numerosi algoritmi e architetture di IA promettenti, ad esempio per la visione artificiale, interfacce uomo-macchina o robotica connessa«, riferisce Xinyang Wu dal Centro per la Cyber Cognitive Intelligence presso l'IPA. Quello che manca ora è la realizzazione pratica. »Tra ricerca e applicazione si apre un divario. Nell'industria, le nuove applicazioni di IA vengono adottate con lentezza. Sono considerate non abbastanza affidabili per applicazioni critiche per la sicurezza.«

Wu conosce bene le riserve degli utenti: »Quando parliamo con i nostri partner dell'industria, è subito chiaro che le aziende vogliono utilizzare robot autonomi e autoapprendenti solo se funzionano in modo assolutamente affidabile, e se si può affermare con certezza al cento per cento che le macchine non rappresentano un pericolo per l'uomo.«

Proprio questo finora non può essere dimostrato. Non esistono norme né test standardizzati. Tuttavia, Wu sottolinea che sono urgentemente necessari: »L'obiettivo deve essere rendere le decisioni prese dagli algoritmi certificate e trasparenti. Ad esempio, deve essere garantita la tracciabilità: quando una macchina prende decisioni autonome, almeno retrospettivamente, bisogna poter capire perché ha commesso un errore in una determinata situazione. Solo così si può evitare che si ripeta. Modelli a scatola nera, in cui non si può comprendere la decisione degli algoritmi, secondo la nostra valutazione, non sono adatti per applicazioni critiche per la sicurezza – a meno che il modello non venga certificato con il metodo corretto.«

Ma come si verifica l'intelligenza artificiale? Il team dell'IPA presso il Centro per la Cyber Cognitive Intelligence ha proposto ora una strategia e nel white paper »Affidabile IA – Utilizzare l'IA in applicazioni industriali critiche per la sicurezza« riporta lo stato della tecnologia corrispondente: La strategia si basa sulla certificabilità e sulla trasparenza.

Catalogo di criteri per una maggiore sicurezza

»Innanzitutto, il nostro obiettivo era trovare regole con cui valutare l'affidabilità dell'apprendimento automatico e dell'IA correlata«, riferisce Wu. Il risultato di questa ricerca sono cinque criteri che i sistemi di IA devono soddisfare per essere considerati sicuri:

- Tutte le decisioni degli algoritmi devono essere comprensibili per gli esseri umani.
- La funzione degli algoritmi deve essere verificata prima del loro impiego con metodi di Verifica Formale.
- Inoltre, è necessaria una validazione statistica, soprattutto quando la Verifica Formale non è praticabile a causa della scalabilità per il caso d'uso specifico. Ciò può essere verificato tramite test con grandi quantità di dati o pezzi.
- Devono essere identificate e quantificate anche le incertezze alla base delle decisioni delle reti neurali.
- Durante il funzionamento, i sistemi devono essere costantemente monitorati, ad esempio tramite monitoraggio online. È importante registrare input e output – cioè dati sensoriali e le decisioni risultanti dalla loro analisi.

Questi cinque criteri potrebbero costituire la base per una futura verifica standardizzata, sottolinea Wu: »All'IPA abbiamo già raccolto diversi algoritmi e metodi per ciascuno di questi punti, con cui è possibile verificare effettivamente l'affidabilità dei sistemi di IA. Per alcuni dei nostri clienti, abbiamo già condotto tali verifiche.«

La trasparenza crea fiducia

Il secondo requisito fondamentale per un impiego sicuro dei sistemi di IA è la loro trasparenza. Questa, secondo le linee guida etiche del »High-Level Expert Group on Artificial Intelligence« della Commissione Europea, nota come HLEG AI, è uno degli elementi chiave per la realizzazione di un'IA affidabile. Questa trasparenza si riferisce, diversamente dai criteri con cui si può verificare l'affidabilità a livello algoritmico, esclusivamente all'interazione con l'uomo a livello sistemico. Tre punti sono riassunti dalle linee guida della HLEG AI, che un'IA trasparente deve soddisfare: Innanzitutto, le decisioni prese dagli algoritmi devono essere comprensibili. In secondo luogo, deve essere possibile spiegare le decisioni a un livello comprensibile per l'essere umano.

Infine, i sistemi di IA devono comunicare con l'uomo e informarlo sulle capacità degli algoritmi e sui loro limiti.

»Solo se si riesce a testare l'affidabilità dei sistemi di IA autonomi e autoapprendenti con procedure standardizzate, considerando anche gli aspetti etici, gli utenti dell'IA potranno avere fiducia – sia nel traffico stradale che in un ambiente industriale«, prevede Wu. »Se questa fiducia si instaurerà, si colmerà il divario tra ricerca e applicazione.«

Lo studio »Affidabile IA – Utilizzare l'IA in applicazioni industriali critiche per la sicurezza« è disponibile per il download all'indirizzo: https://www.ki-fortschrittszentrum.de/de/studien/zuverlaessige-ki.html