Certification et sécurisation KI du point de vue des entreprises

est disponible gratuitement sur Internet à l'adresse https://doi.org/10.24406/publica-1875" title="Le livre blanc "Certification et sécurisation de l'IA dans le contexte du règlement européen sur l'IA" est disponible gratuitement sur Internet à l'adresse https://doi.org/10.24406/publica-1875" class="" fetchpriority="high" />
Le livre blanc "Certification et sécurisation de l'IA dans le contexte du règlement européen sur l'IA" est disponible gratuitement sur Internet à l'adresse https://doi.org/10.24406/publica-1875

L'utilisation de l'intelligence artificielle (IA) dans les environnements privé et professionnel ne cesse de croître. Parallèlement, des réglementations sont en cours de discussion au niveau européen, notamment par le biais de la certification et de la sécurisation de l'IA. Les instituts Fraunhofer IAO et IPA ont donc analysé les mesures réglementaires actuelles et résumé les exigences ainsi que les besoins des entreprises dans un nouveau livre blanc.

Au cours des dernières années, l'importance de l'intelligence artificielle (IA) dans la vie privée et professionnelle a considérablement augmenté. L'IA a le potentiel de transformer de nombreuses industries et domaines de notre société en améliorant l'efficacité et la qualité dans diverses applications. Cependant, son utilisation comporte également des risques et des incertitudes importants, tels que des erreurs algorithmiques, des risques de responsabilité, de la discrimination et des violations de la protection des données. Si les systèmes basés sur l'IA ne sont pas développés, exploités et vérifiés selon des normes de sécurité uniformes, ils peuvent compromettre la sécurité des produits et des services.

Pour faire face à ces défis, l'Union européenne (UE) a présenté en 2021 un projet de loi pour le règlement sur l'IA (EU AI Act), visant à réglementer l'IA. En juin 2023, la Commission européenne et le Parlement européen ont trouvé un accord sur une proposition et négocient actuellement sa mise en œuvre avec les États membres de l'UE. Le AI Act, en tant que pierre angulaire de la certification et de la sécurisation de l'IA, est également d'une importance centrale pour le parc d'innovation Artificial Intelligence, qui construit le plus grand écosystème européen pour le développement de l'IA. « Dans notre écosystème Ipai, nous souhaitons promouvoir des applications d'IA qui ne soient pas seulement innovantes et efficaces, mais aussi sûres et responsables sur le plan éthique. Une compréhension pratique des normes de l'UE issues du AI Act pour la sécurisation de l'IA nous aide, ainsi que nos entreprises membres, à prendre toutes les mesures nécessaires », souligne Moritz Gräter, PDG d'Ipai.

En préparation du prochain AI Act de l'UE, l'Institut Fraunhofer pour l'économie du travail et l'organisation (IAO) et l'Institut Fraunhofer pour la technologie de production et l'automatisation (IPA) ont examiné le point de vue des entreprises. L'équipe de recherche a ainsi dressé l'état actuel des réglementations légales concernant la sécurisation de l'IA. Sur la base des résultats d'entretiens avec des experts, l'équipe a également formulé des exigences de la part des entreprises, des centres de recherche et des établissements d'enseignement concernant la mise en œuvre des processus de sécurisation et de certification des systèmes d'IA.

Absence de directives pour la sécurisation de l'IA comme facteur d'incertitude pour les entreprises

Selon le projet de loi actuel pour le AI Act de l'UE, il est prévu de classer les applications d'IA en différentes catégories de risque, soumises à des exigences variées. Les opérateurs d'applications d'IA à haut risque seront tenus de vérifier leur conformité à ces exigences lors d'une auto-évaluation et pourront ensuite utiliser le marquage CE comme certificat. Des vérifications obligatoires par des tiers ne seront nécessaires que dans des domaines spécifiques, tels que la technologie médicale.

Bien que ces exigences indiquent très clairement à quoi doit ressembler une utilisation conforme de l'IA selon le AI Act de l'UE, il reste encore incertain comment y parvenir. Il manque actuellement des mesures concrètes pour vérifier le respect de ces exigences. « Par exemple, les entreprises ont des difficultés à évaluer dans quelles conditions leur application d'IA est suffisamment transparente ou quelle taux d'erreur est tolérable », explique Janika Kutz, responsable d'équipe au Centre de recherche et d'innovation pour les systèmes de services cognitifs (KODIS) du Fraunhofer IAO. De même, il existe une inquiétude que les coûts liés à la certification, notamment en termes de ressources, dépassent ce que peuvent supporter les start-ups et les petites et moyennes entreprises. On craint qu'une expertise juridique soit nécessaire pour appliquer pleinement et correctement les exigences, ce qui pourrait augmenter les délais et les coûts de développement, empêchant ainsi les entreprises européennes de rivaliser à l'international.

Les entreprises formulent des exigences claires pour la certification de l'IA

Un résultat important des entretiens est que la certification doit être réalisable pour des entreprises de toutes tailles. Certifier et sécuriser chaque cas d'application est coûteux et demande beaucoup de ressources, c'est pourquoi les entreprises ont des exigences claires concernant la réglementation de la sécurisation de l'IA. Des facteurs tels que la transparence et la faisabilité des processus de certification, la clarté des rôles des autorités et des institutions, ainsi que la préservation de la capacité d'innovation sont particulièrement importants. « Les entreprises interrogées conviennent que la valeur ajoutée pour les utilisateurs finaux doit toujours être au centre de la certification de l'IA », résume le Prof. Dr. Marco Huber, chef du département Cyber Cognitive Intelligence au Fraunhofer IPA, les résultats des entretiens.

Les offres de soutien externes pour les entreprises sont demandées

D'après les déclarations des personnes interviewées, la plupart des entreprises ne semblent pas suffisamment préparées aux futures réglementations du AI Act de l'UE. Elles peuvent bénéficier d'informations, de transferts de connaissances et de la création de réseaux, et sont également intéressées par des offres de conseil individualisées ainsi que par des méthodes et outils pratiques pour soutenir la sécurisation et la certification des systèmes basés sur l'IA. Grâce à un échange continu entre les autorités réglementaires, l'industrie, les centres de recherche et le grand public, une compréhension globale des opportunités et des défis liés à l'utilisation de l'IA peut être développée. Cela conduira finalement au développement de systèmes d'IA plus efficaces, plus sûrs et plus orientés vers la pratique.

Le livre blanc « Certification et sécurisation de l'IA dans le contexte du AI Act de l'UE » est disponible gratuitement en ligne à l'adresse : https://doi.org/10.24406/publica-1875