Certificazione e sicurezza KI dal punto di vista delle aziende

Il whitepaper »Certificazione e sicurezza dell'IA nel contesto del EU AI Act« è disponibile gratuitamente su Internet all'indirizzo https://doi.org/10.24406/publica-1875

L'uso dell'Intelligenza Artificiale (IA) nel contesto privato e professionale aumenta costantemente. Allo stesso tempo, a livello europeo si discutono regolamentazioni attraverso la certificazione e la sicurezza dell'IA. Gli istituti Fraunhofer IAO e IPA hanno quindi analizzato le attuali misure di regolamentazione e riassunto requisiti e bisogni delle aziende in un nuovo Whitepaper.

Negli ultimi anni, l'importanza dell'Intelligenza Artificiale (IA) sia nella vita privata che in quella professionale è cresciuta notevolmente. L'IA ha il potenziale di trasformare numerosi settori e ambiti della nostra società, migliorando efficienza e qualità in diversi casi d'uso. Tuttavia, sono anche associati rischi e incertezze significativi all'uso dell'IA, come errori algoritmici, rischi di responsabilità, discriminazioni e violazioni della privacy. Se i sistemi basati sull'IA non vengono sviluppati, gestiti e verificati secondo standard di sicurezza unificati, possono compromettere la sicurezza di prodotti e servizi.

Per affrontare queste sfide, l'Unione Europea (UE) ha presentato nel 2021 una proposta di legge per il EU AI Act, che mira a regolamentare l'IA. Nel giugno 2023, la Commissione Europea e il Parlamento Europeo sono riusciti a raggiungere un accordo su una proposta e attualmente negoziano l'implementazione con gli Stati membri dell'UE. Il AI Act, come elemento chiave per la certificazione e la sicurezza dell'IA, è anche di fondamentale importanza per il Innovation Park Artificial Intelligence, che sta costruendo il più grande ecosistema europeo per lo sviluppo dell'IA. «Nel nostro ecosistema Ipai vogliamo promuovere applicazioni di IA che siano non solo innovative e efficienti, ma anche sicure ed eticamente responsabili. Una comprensione pratica degli standard dell'UE derivanti dal AI Act per la sicurezza dell'IA ci aiuta, così come alle nostre aziende associate, a prendere tutte le precauzioni necessarie», sottolinea Moritz Gräter, CEO di Ipai.

In preparazione al prossimo EU AI Act, l'Istituto Fraunhofer per l'organizzazione e il lavoro IAO e l'Istituto Fraunhofer per la produzione e l'automazione IPA hanno esaminato la prospettiva delle aziende. Il team di ricerca ha analizzato lo stato attuale delle regolamentazioni legislative sulla sicurezza dell'IA. Basandosi sui risultati di interviste con esperti, il team ha inoltre formulato requisiti da parte di aziende, istituzioni di ricerca e formazione riguardo all'implementazione di processi di sicurezza e certificazione dei sistemi di IA.

Mancanza di linee guida sulla sicurezza dell'IA come fattore di incertezza per le aziende

Secondo la proposta di legge attuale per il EU AI Act, si prevede che le applicazioni di IA siano suddivise in diverse categorie di rischio e soggette a requisiti differenti. Gli operatori di applicazioni di IA ad alto rischio sono obbligati a verificare la conformità a tali requisiti tramite un'autovalutazione e possono successivamente utilizzare il marchio CE come certificato. Verifiche obbligatorie da parte di terzi dovrebbero essere richieste solo in settori specifici, come ad esempio la tecnologia medica.

Sebbene questi requisiti chiariscano come dovrebbe essere l'uso conforme dell'IA secondo il EU AI Act, attualmente non è ancora chiaro come raggiungere tale conformità. Mancano misure concrete per la verifica del rispetto delle prescrizioni. «Le aziende, ad esempio, incontrano difficoltà nel valutare in quali condizioni il loro sistema di IA sia sufficientemente trasparente o quale tasso di errore sia tollerabile», spiega Janika Kutz, responsabile del team presso il Centro di Ricerca e Innovazione sui Sistemi di Servizi Cognitivi KODIS del Fraunhofer IAO. Allo stesso modo, si teme che gli sforzi richiesti per una certificazione possano superare le risorse di startup e piccole e medie imprese. Si teme che sia necessario un know-how legale per attuare correttamente i requisiti e che i tempi e i costi di sviluppo aumentino, rendendo difficile per le aziende europee competere a livello internazionale.

Aziende formulano requisiti chiari per la certificazione dell'IA

Un risultato importante delle interviste è che la certificazione deve essere praticabile per aziende di tutte le dimensioni. Certificare e garantire ogni singolo caso d'uso richiede risorse e impegno, quindi le aziende richiedono requisiti chiari per le normative sulla sicurezza dell'IA. Fattori come trasparenza e fattibilità dei processi di certificazione, ruoli chiari di autorità e istituzioni, nonché la preservazione dell'innovazione sono considerati particolarmente importanti. «Le aziende intervistate concordano sul fatto che, nella certificazione dell'IA, il valore aggiunto per gli utenti finali dovrebbe sempre essere al centro», riassume il Prof. Dr. Marco Huber, responsabile del dipartimento di Cyber Cognitive Intelligence presso il Fraunhofer IPA.

Offerte di supporto esterno alle aziende sono richieste

Secondo le dichiarazioni degli intervistati, la maggior parte delle aziende sembra non essere sufficientemente preparata per le future regolamentazioni del EU AI Act. Le aziende possono beneficiare di servizi di informazione, trasferimento di conoscenze e networking, e sono anche interessate a consulenze personalizzate, nonché a metodi e strumenti pratici per supportare la sicurezza e la certificazione di sistemi basati sull'IA. Attraverso un continuo scambio tra autorità di regolamentazione, industria, istituzioni di ricerca e il pubblico, si può sviluppare una comprensione approfondita delle opportunità e delle sfide dell'uso dell'IA. Ciò porterà infine allo sviluppo di sistemi di IA più efficaci, sicuri e orientati alla pratica.

Il Whitepaper «Certificazione e sicurezza dell'IA nel contesto del EU AI Act» è disponibile gratuitamente online all'indirizzo: https://doi.org/10.24406/publica-1875