Mettre la KI en pratique de manière juridiquement sûre : Reallabor KIRR Real développe des solutions exemplaires en IA et robotique

En particulier, la robotique en utilisation sans barrière de protection nécessite des mesures de sécurité particulières. © Fraunhofer IPA/Photo : Rainer Bez

Par exemple, le sujet de la **transparence de l'IA** à l'aide de cartes thermiques peut contribuer à un développement conforme aux réglementations. © Fraunhofer IPA/Photo : Rainer Bez

Le but de « KIRR Real : Reallabor pour une IA et une robotique conformes à la législation » du Fraunhofer IPA et de l'ARENA2036 était d'aider les entreprises du Bade-Wurtemberg à mettre en œuvre le règlement européen sur l'IA ainsi que le nouveau règlement européen sur les machines, en vigueur à partir de 2027. Les résultats de la collaboration avec 15 entreprises ont été publiés et servent de référence à des entreprises ayant des applications similaires pour une orientation vers un développement conforme à la législation des applications d'IA et de robotique.

Le temps presse lorsqu'il s'agit de la réglementation actuelle : le 2 août 2027, les obligations pour les systèmes d'IA à haut risque en tant que composant de sécurité entreront en vigueur et l'ensemble du règlement européen sur l'IA sera applicable. La nouvelle réglementation européenne sur les machines, à partir de janvier 2027, établit également de nouvelles exigences pour l'IA de sécurité et les systèmes auto-apprenants.

Conseil réglementaire et technique pour les entreprises

KIRR Real a aidé les entreprises à comprendre et à mettre en œuvre ces exigences réglementaires complexes. À cet effet, des « Legal Quick Checks » ont été proposés, c'est-à-dire de courts projets de conseil concis. Un cabinet d'avocats a classé ces cas dans l'une des quatre classes de risque du règlement sur l'IA (du risque minimal à inacceptable). Ensuite, l'institut Fraunhofer pour la technologie de la production et l'automatisation IPA a examiné la documentation technique et les concepts sous-jacents du développement de l'IA afin d'évaluer la conformité juridique des systèmes et de formuler des recommandations pratiques.

Le projet s'est déroulé du 15 novembre 2024 au 31 décembre 2025 et a été financé par le ministère de l'Économie, du Travail et du Tourisme du Bade-Wurtemberg. Le consortium comprenait le Fraunhofer IPA et le campus de recherche ARENA2036, accompagnés de plusieurs partenaires associés. Les principaux objectifs du projet étaient d'étudier la préparation des entreprises du Bade-Wurtemberg face au règlement sur l'IA et à la réglementation sur les machines, comment ces deux règlements interagissent et se chevauchent, et où se trouvent encore des obstacles dans la régulation de l'IA.

Les résultats du projet donnent des impulsions pour une mise en œuvre pratique et une évolution de la régulation de l'IA et sont activement intégrés dans le processus législatif, par exemple par la participation à des groupes de normalisation, des échanges réguliers avec l'Agence fédérale des réseaux, l'Institut fédéral pour la sécurité et la médecine du travail, ainsi qu'un atelier avec le ministère fédéral du Travail et des Affaires sociales. Les résultats du projet doivent également alimenter la conception des réallaboratoires prévus par le règlement sur l'IA.

Sensibiliser aux exigences réglementaires

Au cours du projet, 15 cas d'application de l'IA issus de secteurs tels que la fabrication, la robotique humanoïde, la santé et la gestion du personnel ont été traités. Même des entreprises avancées dans le développement de l'IA avaient encore besoin de soutien pour la mise en œuvre du règlement sur l'IA. Il est également apparu lors des échanges que la conscience des réglementations à venir est souvent insuffisante. Dans l'application du règlement sur l'IA, on considère souvent soit l'aspect juridique, soit l'aspect technique. Pourtant, ces deux aspects et la prise en compte précoce de la régulation de l'IA sont essentiels pour une mise en œuvre réussie.

Défis dans la mise en œuvre des actes juridiques

Particulièrement difficile pour les entreprises est la classification dans les classes de risque. Cette classification est cruciale pour la planification des ressources, mais parfois difficile à déterminer de manière claire, car elle dépend fortement des détails du cas d'application. Il n'est donc pas toujours possible de s'appuyer sur des cas similaires comme référence.

L'absence de normes harmonisées entraîne que davantage de systèmes d'IA doivent passer par une vérification de conformité par des tiers. En ce qui concerne la réglementation sur les machines, de nombreux experts soulignent également la nécessité de clarifications sur ce qu'implique exactement un système doté d'un « comportement auto-développant ».

Un autre sujet concerne la mise en œuvre technique des exigences. Beaucoup d'entreprises se posent des questions telles que : comment fournir des preuves ? Quelle doit être l'étendue de la documentation ? Quand une IA fait-elle partie d'une machine ? La gestion de plusieurs réglementations en vigueur est également souvent floue et génère une crainte de charges administratives inutiles. De plus, de nombreuses entreprises ne développent pas entièrement leurs systèmes d'IA en interne, mais utilisent des modèles d'IA généralistes existants pour leurs applications, ce qui complique la fourniture des preuves requises. Les guides et aides disponibles n'ont cependant que rarement pris en compte cette pratique jusqu'à présent.

Pour l'intégration de l'IA dans des robots et autres machines, un défi supplémentaire réside dans la nouvelle réglementation sur les machines : les entreprises doivent, en plus de respecter les nouvelles règles pour l'IA dans les fonctions de sécurité, adapter leurs produits existants à la nouvelle réglementation dans les douze prochains mois.

Recommandations issues du réallaboratoire

Les expériences tirées de KIRR Real montrent qu'il existe certes des entreprises qui se penchent sur les réglementations, mais que des incertitudes persistantes, la multitude de réglementations à considérer et l'absence de normes harmonisées posent problème.

Il y a un besoin urgent de guides concrets, pratiques et faciles à mettre en œuvre, ainsi que de démarches structurées, dès les premières phases de développement. En particulier, les équipes de développement d'IA, souvent petites et indépendantes de la taille de l'entreprise, ont souvent du mal à gérer les efforts requis. Les offres de soutien (comme les réallaboratoires) devraient donc être aussi accessibles que possible pour apporter une réelle valeur ajoutée. Les entreprises devraient également bénéficier d'un accompagnement dès les premières phases de développement, par exemple par une évaluation juridique d'un cas d'application, un atelier ou un conseil pendant la conception du système.

Le Fraunhofer IPA continuera à collecter les enseignements issus du projet et à les intégrer activement dans le processus législatif, tout en les utilisant pour une collaboration directe avec les entreprises. Les entreprises peuvent contacter nos interlocuteurs à cet effet. L'objectif reste de faire évoluer la régulation de l'IA de manière pragmatique et d'accompagner au mieux les entreprises du Bade-Wurtemberg.