Certificación y aseguramiento de KI desde la perspectiva de las empresas

El documento técnico «Certificación y aseguramiento de IA en el contexto del EU AI Act» está disponible gratuitamente en Internet en https://doi.org/10.24406/publica-1875

El uso de la Inteligencia Artificial (IA) en entornos privados y profesionales continúa en aumento. Al mismo tiempo, en el ámbito europeo se discuten regulaciones mediante certificación y aseguramiento de IA. Por ello, los institutos Fraunhofer IAO y IPA han analizado las medidas regulatorias actuales y han resumido los requisitos y necesidades de las empresas en un nuevo documento técnico.

En los últimos años, la importancia de la Inteligencia Artificial (IA) ha crecido significativamente tanto en la vida privada como en la laboral. La IA tiene el potencial de transformar numerosas industrias y áreas de nuestra sociedad, mejorando la eficiencia y calidad en diversos casos de uso. Sin embargo, también conlleva riesgos y incertidumbres considerables, como errores algorítmicos, riesgos de responsabilidad, discriminación y violaciones de la privacidad. Si los sistemas basados en IA no se desarrollan, operan y verifican según estándares de seguridad uniformes, pueden afectar la seguridad de productos y servicios.

Para hacer frente a estos desafíos, la Unión Europea (UE) presentó en 2021 un proyecto de ley para el Reglamento de IA de la UE, que tiene como objetivo regular la IA. En junio de 2023, la Comisión Europea y el Parlamento Europeo acordaron una propuesta y actualmente negocian su implementación con los Estados miembros de la UE. El Reglamento de IA, como un componente clave para la certificación y aseguramiento de IA, también es de gran importancia para el Parque de Innovación en Inteligencia Artificial, que está construyendo el ecosistema más grande de Europa para el desarrollo de IA. »En nuestro ecosistema Ipai, queremos promover aplicaciones de IA que no solo sean innovadoras y eficientes, sino también seguras y éticamente responsables. Una comprensión práctica de los estándares de la UE del Reglamento de IA para el aseguramiento de IA nos ayuda a nosotros y a nuestras empresas miembros a tomar todas las precauciones necesarias«, destaca Moritz Gräter, CEO de Ipai.

En preparación para el próximo Reglamento de IA de la UE, el Instituto Fraunhofer para la Economía del Trabajo y la Organización IAO y el Instituto Fraunhofer para la Tecnología de Producción y Automatización IPA han examinado la perspectiva de las empresas. Así, el equipo de investigación ha recopilado el estado actual de las regulaciones legales para la aseguramiento de IA. Basándose en los resultados de entrevistas con expertos, el equipo también ha formulado requisitos por parte de empresas, instituciones de investigación y educación para la implementación de procesos de aseguramiento y certificación de sistemas de IA.

Falta de directrices para el aseguramiento de IA como factor de incertidumbre para las empresas

Según el proyecto de ley actual para el Reglamento de IA de la UE, se prevé que las aplicaciones de IA se clasifiquen en diferentes niveles de riesgo y se sometan a diferentes requisitos en función de ello. Los operadores de aplicaciones de IA de alto riesgo estarán obligados a verificar su conformidad con estos requisitos mediante una autoevaluación y podrán usar la etiqueta CE como certificado. Las verificaciones obligatorias por terceros solo serán necesarias en áreas específicas, como la tecnología médica.

Aunque estos requisitos transmiten claramente cómo debe ser un uso de IA conforme al Reglamento de IA de la UE, actualmente todavía no está claro cómo lograrlo. Actualmente, faltan medidas concretas para verificar el cumplimiento de los requisitos. »Las empresas, por ejemplo, tienen dificultades para evaluar en qué condiciones su aplicación de IA es lo suficientemente transparente o cuál es la tasa de error tolerable«, explica Janika Kutz, jefa de equipo en el Centro de Investigación e Innovación en Sistemas de Servicios Cognitivos KODIS del Fraunhofer IAO. Asimismo, existe la preocupación de que los esfuerzos para obtener una certificación sobrepasen los recursos de startups y pequeñas y medianas empresas. Se teme que sea necesario contar con conocimientos jurídicos para implementar completamente los requisitos y que esto aumente los tiempos y costos de desarrollo, dificultando que las empresas europeas compitan a nivel internacional.

Las empresas establecen requisitos claros para la certificación de IA

Un resultado importante de las entrevistas es que la certificación debe ser factible para empresas de todos los tamaños. Certificar y asegurar cada caso de uso es laborioso y requiere muchos recursos, por lo que las empresas exigen requisitos claros para las regulaciones de aseguramiento de IA. Factores como la transparencia y viabilidad de los procesos de certificación, roles claros de las autoridades e instituciones, así como la preservación de la capacidad de innovación, son considerados especialmente importantes. »Las empresas consultadas coinciden en que la certificación de IA siempre debe centrarse en el valor añadido para los usuarios finales«, resume el Prof. Dr. Marco Huber, jefe del departamento de Inteligencia Ciber Cognitiva en Fraunhofer IPA, los resultados de las entrevistas.

Se demandan ofertas de apoyo externo para las empresas

Según las declaraciones de los entrevistados, la mayoría de las empresas parecen no estar suficientemente preparadas para las próximas regulaciones del Reglamento de IA de la UE. Por ello, pueden beneficiarse de la transferencia de información, el intercambio de conocimientos y la creación de redes, además de estar interesadas en asesoramiento individual y en métodos y herramientas prácticas para apoyar la aseguración y certificación de sistemas basados en IA. A través del intercambio continuo entre autoridades regulatorias, industria, centros de investigación y el público en general, se puede desarrollar una comprensión integral de las oportunidades y desafíos del uso de IA. Esto, en última instancia, conducirá al desarrollo de sistemas de IA más efectivos, seguros y orientados a la práctica.

El documento técnico «Certificación y aseguramiento de IA en el contexto del Reglamento de IA de la UE» está disponible gratuitamente en línea en: https://doi.org/10.24406/publica-1875