Llevar la IA a la práctica de manera legal y segura: Reallabor KIRR Real desarrolla soluciones ejemplares en IA y robótica

En particular, la robótica en uso sin valla de protección requiere medidas de seguridad especiales. © Fraunhofer IPA/Foto: Rainer Bez

Por ejemplo, el tema de la explicabilidad de la IA mediante mapas de calor puede contribuir al desarrollo conforme a la regulación. © Fraunhofer IPA/Foto: Rainer Bez

El objetivo de »KIRR Real: Laboratorio real para IA y robótica conformes a la ley« del Fraunhofer IPA y ARENA2036 era apoyar a las empresas en Baden-Württemberg en la implementación del Reglamento de IA de la UE y del nuevo Reglamento de máquinas de la UE, que entrará en vigor en 2027. Los resultados de la colaboración con 15 empresas ya han sido publicados y sirven de orientación a empresas con aplicaciones similares para el desarrollo legalmente seguro de aplicaciones de IA y robótica.

El tiempo apremia cuando se trata de regulación actual: el 2 de agosto de 2027 entrarán en vigor las obligaciones para los sistemas de IA de alto riesgo como componentes de seguridad y se aplicará toda la ley de IA de la UE. También el nuevo Reglamento de máquinas de la UE establecerá a partir de enero de 2027 nuevos requisitos para IA relevantes para la seguridad y sistemas de autoaprendizaje.

Asesoramiento regulatorio y técnico para empresas

KIRR Real ayudó a las empresas a entender y aplicar estos requisitos regulatorios complejos. Para ello, se ofrecieron »Legal Quick Checks«, es decir, proyectos de asesoramiento breves y concisos. Un despacho de abogados clasificó estos casos en una de las cuatro clases de riesgo del Reglamento de IA (desde riesgo mínimo hasta inaceptable). Luego, el Instituto Fraunhofer para la Producción, Tecnología de Automatización IPA verificó la documentación técnica y los conceptos subyacentes del desarrollo de IA para evaluar la conformidad legal de los sistemas y elaborar recomendaciones prácticas.

El proyecto se llevó a cabo del 15 de noviembre de 2024 al 31 de diciembre de 2025 y fue financiado por el Ministerio de Economía, Trabajo y Turismo de Baden-Württemberg. En el consorcio colaboraron el Fraunhofer IPA y el campus de investigación ARENA2036, acompañados por varios socios asociados. Los objetivos principales del proyecto fueron investigar qué tan preparadas están las empresas de Baden-Württemberg para el Reglamento de IA y el Reglamento de máquinas, cómo interactúan y se superponen estas regulaciones, y dónde aún existen obstáculos en la regulación de IA.

Los conocimientos adquiridos en el proyecto ofrecen impulsos para una implementación práctica y el desarrollo continuo de la regulación de IA, y se reflejan activamente en el proceso legislativo, por ejemplo, participando en comités de normalización, en intercambios regulares con la Agencia Federal de Redes, la Oficina Federal para la Seguridad y Medicina del Trabajo, y en un taller con el Ministerio Federal de Trabajo y Asuntos Sociales. También se incorporarán los resultados del proyecto en la configuración de los laboratorios reales previstos en el Reglamento de IA.

Concienciar sobre los requisitos regulatorios

Durante el proyecto se abordaron 15 casos de aplicación de IA en áreas como fabricación, robótica humanoide, salud y gestión de personal. Incluso empresas con desarrollo avanzado de IA aún necesitaban apoyo en la implementación del Reglamento de IA. Las conversaciones revelaron también que a menudo no basta con tener conciencia de las próximas regulaciones. En la aplicación del Reglamento de IA, a menudo solo se consideraba el nivel legal o técnico. Sin embargo, ambos aspectos y el compromiso temprano con la regulación de IA son cruciales para una implementación exitosa.

Desafíos en la implementación de las normativas

Especialmente la clasificación en clases de riesgo representa un reto para las empresas. Esta clasificación es decisiva para la planificación de recursos, pero a veces no es claramente determinable y depende en gran medida de los detalles del caso de uso. Por ello, no siempre es posible orientarse en casos similares.

La falta de estándares armonizados implica que más sistemas de IA deben someterse a pruebas de conformidad por terceros. En relación con el Reglamento de máquinas, muchos expertos también consideran necesario aclarar qué se entiende exactamente por un sistema con »comportamiento auto-desarrollado«.

Otro tema es la implementación técnica de los requisitos. Muchas empresas se preguntan: ¿Cómo deben presentarse las evidencias? ¿Qué alcance debe tener la documentación? ¿Cuándo la IA forma parte de una máquina? Además, el manejo de múltiples regulaciones vigentes a menudo no está claro, lo que genera miedo a cargas adicionales innecesarias. Además, muchas empresas no desarrollan sistemas de IA completamente por sí mismas, sino que utilizan modelos de IA de propósito general existentes para sus aplicaciones, lo que dificulta la presentación de las evidencias requeridas. Hasta ahora, las guías y ayudas disponibles apenas consideraban esta práctica.

Para la integración de IA en robots y otras máquinas, la nueva regulación de máquinas presenta otro desafío: las empresas deben, además de cumplir con las nuevas reglas para IA en funciones de seguridad, adaptar sus productos existentes a la nueva normativa en los próximos doce meses.

Recomendaciones de acción del laboratorio real

Las experiencias de KIRR Real muestran que, si bien existen empresas que abordan las regulaciones, los problemas surgen debido a las incertidumbres existentes, la gran cantidad de regulaciones a considerar y la falta de estándares armonizados.

Es urgente contar con guías concretas, prácticas y fáciles de aplicar, así como con procedimientos estructurados que comiencen desde etapas tempranas del desarrollo. En particular, los equipos de desarrollo de IA, independientemente del tamaño de la empresa, suelen ser pequeños y tienen dificultades para gestionar los esfuerzos necesarios. Por ello, las ofertas de apoyo (como los laboratorios reales) deben ser lo más accesibles posible para ofrecer un valor real. Además, las empresas deberían recibir apoyo desde las primeras fases de desarrollo, por ejemplo, mediante una evaluación legal de un caso de uso, talleres o asesoramiento durante el desarrollo de un sistema.

El Fraunhofer IPA continuará recopilando los conocimientos del proyecto y participando activamente en el proceso legislativo, además de colaborar directamente con las empresas. Para ello, las empresas pueden acudir a nuestros contactos. El objetivo sigue siendo desarrollar la regulación de IA de manera práctica y apoyar de forma óptima a las empresas en Baden-Württemberg.