Portare la IA legalmente in pratica: Reallabor KIRR Real sviluppa soluzioni esemplari di IA e robotica

In particolare, la robotica in uso senza recinzione di protezione richiede misure di sicurezza particolari. © Fraunhofer IPA/Foto: Rainer Bez

Ad esempio, il tema della spiegabilità dell'IA tramite heatmap può contribuire allo sviluppo conforme alle normative. © Fraunhofer IPA/Foto: Rainer Bez

Obiettivo di »KIRR Real: Reallabor per un'IA e robotica conformi alla legge« del Fraunhofer IPA e della ARENA2036 era supportare le aziende in Baden-Württemberg nell'implementazione del EU AI Act e del nuovo regolamento sulle macchine, in vigore dal 2027. I risultati della collaborazione con 15 aziende sono ora stati pubblicati e servono come orientamento per le imprese con applicazioni simili per uno sviluppo di IA e robotica conforme alla legge.

Il tempo stringe, soprattutto per quanto riguarda le normative attuali: il 2 agosto 2027 entreranno in vigore gli obblighi per i sistemi di IA ad alto rischio come componente di sicurezza e si applicherà l'intero EU AI Act. Anche il nuovo regolamento sulle macchine dell'UE, a partire da gennaio 2027, stabilisce nuovi requisiti per l'IA rilevante per la sicurezza e i sistemi di autoapprendimento.

Consulenza normativa e tecnica per le aziende

KIRR Real ha aiutato le aziende a comprendere e attuare queste complesse normative. A tal fine sono stati offerti »Legal Quick Checks«, cioè brevi progetti di consulenza compatta. Uno studio legale ha classificato questi casi in una delle quattro classi di rischio del AI Act (da rischio minimo a rischio inaccettabile). Successivamente, l'Istituto Fraunhofer per la tecnologia di produzione e automazione IPA ha verificato la documentazione tecnica e i concetti sottostanti allo sviluppo dell'IA, per valutare la conformità legale dei sistemi e sviluppare raccomandazioni pratiche.

Il progetto è durato dal 15 novembre 2024 al 31 dicembre 2025 ed è stato finanziato dal Ministero dell'Economia, del Lavoro e del Turismo di Baden-Württemberg. Nel consorzio hanno collaborato il Fraunhofer IPA e il campus di ricerca ARENA2036, accompagnati da diversi partner associati. Le principali questioni del progetto erano valutare quanto le aziende di Baden-Württemberg siano preparate al AI Act e al regolamento sulle macchine, come i due regolamenti interagiscono e si sovrappongono, e dove ci sono ancora ostacoli nella regolamentazione dell'IA.

Le conoscenze acquisite dal progetto forniscono impulsi per una messa in pratica efficace e per lo sviluppo della regolamentazione dell'IA, e vengono attivamente restituite nel processo legislativo, ad esempio partecipando a organismi di normazione, mantenendo uno scambio regolare con l'Autorità federale delle reti, l'Istituto federale per la sicurezza sul lavoro e la medicina del lavoro, e attraverso workshop con il Ministero federale del lavoro e degli affari sociali. I risultati del progetto saranno inoltre integrati nella progettazione dei Reallabore previsti dal AI Act.

Sensibilizzare sulle normative

Nel corso del progetto sono stati trattati 15 casi di applicazione dell'IA in settori come produzione, robotica umanoide, sanità e gestione del personale. Anche aziende con uno sviluppo avanzato dell'IA hanno ancora bisogno di supporto nell'implementazione del AI Act. Durante le conversazioni è emerso anche che la consapevolezza delle prossime normative spesso non è sufficiente. Nell'applicazione del AI Act si considerava frequentemente solo l'aspetto legale o quello tecnico. Entrambi gli aspetti, e il coinvolgimento precoce nella regolamentazione dell'IA, sono invece fondamentali per un'applicazione di successo.

Sfide nell'attuazione delle normative

Soprattutto la classificazione in classi di rischio rappresenta una sfida per le aziende. Questa classificazione è decisiva per la pianificazione delle risorse, ma a volte non è chiaramente determinabile e dipende molto dai dettagli del caso applicativo. Perciò, non sempre è possibile fare riferimento a casi simili.

La mancanza di standard armonizzati comporta che più sistemi di IA devono passare una verifica di conformità da parte di terzi. Per quanto riguarda il regolamento sulle macchine, molti esperti evidenziano anche la necessità di chiarimenti su cosa si intenda esattamente con un sistema con «comportamento auto-sviluppante».

Un'altra questione riguarda l'implementazione tecnica dei requisiti. Molte aziende si interrogano su come dimostrare la conformità, quanto deve essere dettagliata la documentazione, e quando l'IA diventa parte di una macchina. La gestione di più normative vigenti è spesso poco chiara e genera timore di un onere amministrativo eccessivo. Inoltre, molte aziende non sviluppano completamente i sistemi di IA da zero, ma utilizzano modelli di IA di uso generale esistenti, il che rende più difficile fornire le prove richieste. Finora, le linee guida e gli strumenti di supporto disponibili non hanno considerato molto questa pratica.

Per l'integrazione dell'IA in robot e altre macchine, la nuova regolamentazione sulle macchine rappresenta un'altra sfida: le aziende devono, oltre a rispettare le nuove regole per l'IA nelle funzioni di sicurezza, adeguare i loro prodotti esistenti alla nuova normativa nei prossimi dodici mesi.

Raccomandazioni operative dal Reallabor

Le esperienze di KIRR Real evidenziano che, se da un lato alcune aziende si confrontano con le normative, dall'altro persistono problemi legati a incertezze esistenti, alla moltitudine di regolamenti da considerare e alla mancanza di standard armonizzati.

È urgente sviluppare linee guida concrete, pratiche e facilmente attuabili, che inizino già nelle prime fasi di sviluppo. In particolare, i team di sviluppo IA, indipendentemente dalle dimensioni dell'azienda, sono spesso piccoli e faticano a gestire gli oneri richiesti. Le offerte di supporto (come i Reallabore) dovrebbero essere il più accessibili possibile, per offrire un reale valore aggiunto. Le aziende dovrebbero inoltre ricevere supporto già nelle prime fasi di sviluppo, ad esempio tramite valutazioni legali di un caso applicativo, workshop o consulenza durante lo sviluppo di un sistema.

Il Fraunhofer IPA continuerà a raccogliere le conoscenze acquisite e a integrarle attivamente nel processo legislativo, oltre a utilizzarle per collaborazioni dirette con le aziende. Le aziende possono rivolgersi ai nostri referenti. L'obiettivo rimane quello di sviluppare in modo pratico la regolamentazione dell'IA e di supportare al meglio le imprese di Baden-Württemberg.