Revisión independiente de IA: Fraunhofer IPA investiga el sistema de aprendizaje automático de Experian

Una auditoría del Fraunhofer IPA (segundo paso en la gráfica) confirma que el componente ML para la solución de detección de fraude de Experian ha sido desarrollado correctamente y ofrece resultados comprensibles. © Experian

El Instituto Fraunhofer para Tecnología de Producción y Automatización IPA ha sometido a auditoría el componente de Machine Learning »Transaction Miner« del proveedor de servicios de información Experian. El Transaction Miner es un componente central de la solución de prevención de fraude AI:drian de Experian. La auditoría ha confirmado que el desarrollo del Transaction Miner se realizó correctamente y de acuerdo con las mejores prácticas relevantes, y que el modelo produce resultados comprensibles.

El aprendizaje automático (ML) es el método más utilizado de la inteligencia artificial (IA). Los sistemas de ML aprenden en gran medida de manera autónoma a reconocer ciertos patrones o regularidades a partir de ejemplos. Sin embargo, las relaciones causales en un modelo entrenado no siempre son evidentes, es decir, la lógica de cómo se deriva un resultado a partir de la información inicial suele ser difícil de entender. Por ello, en el debate público se emplea frecuentemente la metáfora de la caja negra. Esto implica que los sistemas de ML no solo son evaluados positivamente, sino también críticamente, lo que representa un obstáculo adicional para un uso más amplio de la tecnología.

Análisis exhaustivo de la solución ML

Como en cualquier uso de modelos, especialmente con sistemas de ML, es necesario un manejo responsable y conforme a las reglas. El avance técnico ha abierto nuevas posibilidades, por lo que la Comisión Europea está trabajando en un proyecto de ley para regular el uso de la IA. Para que los clientes puedan confiar en la solución de prevención de fraude AI:drian, Experian encargó al Fraunhofer IPA evaluar si el componente ML Transaction Miner fue desarrollado siguiendo todas las mejores prácticas y requisitos legales, y si produce resultados comprensibles. La revisión se basó, además del borrador de la UE, en un documento técnico de TÜV Austria y en un catálogo de evaluación de IA del Instituto Fraunhofer para Sistemas de Análisis e Información Inteligente IAIS, que marcarán la pauta para futuros estándares del mercado. Tras una fase de revisión muy detallada de cuatro meses, esta investigación llegó a un resultado positivo.

«Observamos que cada vez más sistemas de ML se emplean en áreas que la Comisión Europea ha definido como críticas, por ejemplo en coches autónomos o —como en este caso— en la verificación de intenciones de fraude y la solvencia crediticia de los consumidores», explica el profesor Marco Huber, director del departamento de Ciberinteligencia Cognitiva (CCI) en Fraunhofer IPA. «Aún no se conocen todos los detalles de la futura legislación de la UE. Sin embargo, aunque no es trivial, no es magia definir algoritmos que produzcan resultados justos, explicables y comprensibles. La revisión del Transaction Miner de Experian nos permitió echar un vistazo a un producto que ya está en uso práctico y trabajar en un procedimiento estandarizado que será útil en cuanto la legislación de la UE sea definitiva.»

Reducción del trabajo en más del 95 por ciento

El Transaction Miner, revisado por Fraunhofer IPA, es el componente central de la solución de prevención de fraude AI:drian, que Experian lanzó recientemente en la región DACH. Gracias a los algoritmos de ML utilizados, AI:drian puede detectar intentos de fraude en línea de manera más fiable que los sistemas anteriores. En un cliente piloto del sector comercio electrónico, el 99,9 por ciento de las transacciones identificadas como legítimas por el Transaction Miner, tras su entrenamiento, no eran fraudulentas y, por tanto, no fueron rechazadas. Como resultado, en lugar de unas 7.000 solicitudes de pedido mensuales, solo se tuvieron que revisar manualmente 300, lo que supone una reducción del trabajo en más del 95 por ciento.

«Desarrollos como el aprendizaje automático son observados críticamente por el público», comenta Martina Neumayr, vicepresidenta senior de Riesgo de Crédito y Servicios contra el Fraude en Experian DACH. «También hay ejemplos de que los sistemas de ML ofrecen resultados cuestionables. Con el Transaction Miner, hemos desarrollado un componente de ML especialmente potente, que puede emplearse incluso en ámbitos donde la Comisión Europea ve una fuerte necesidad de regulación, como en el sector financiero. Por eso, nos pareció muy importante actuar con transparencia y someter la tecnología a una revisión independiente. Creemos que la adopción de nuevas tecnologías solo será aceptada si existen controles independientes, como los que realiza el Fraunhofer IPA. Es aún mejor si, con esta innovación pionera, hemos allanado el camino para un procedimiento estandarizado en el futuro.»

Oferta variada en torno a la «IA confiable»

Auditorías como la descrita son uno de los principales servicios del departamento CCI en Fraunhofer IPA. Uno de los enfoques de investigación en ese departamento es el tema de la «IA confiable». En este contexto, los expertos del IPA desarrollan, entre otros, métodos para la explicabilidad y la validación de sistemas de IA. Esto también incluye realizar auditorías y validar o calificar los sistemas de IA como independientes y conformes a la ley. La oferta de servicios es independiente del sector y es adecuada tanto para startups como para grandes empresas.

Sobre Fraunhofer IPA

El Instituto Fraunhofer para Tecnología de Producción y Automatización IPA, conocido como Fraunhofer IPA, cuenta con aproximadamente 1200 empleados y es uno de los mayores institutos de la Sociedad Fraunhofer. El presupuesto total asciende a 82 millones de euros. Las tareas organizativas y tecnológicas relacionadas con la producción son los principales enfoques de investigación del instituto. Se desarrollan, prueban y aplican métodos, componentes y dispositivos, desde máquinas completas hasta plantas industriales. Nuestras 19 divisiones trabajan de manera interdisciplinaria, coordinadas por 6 áreas de negocio, principalmente en los sectores de automoción, maquinaria y equipo, electrónica y microsistemas, energía, medicina y biotecnología, y la industria de procesos. La investigación del Fraunhofer IPA se orienta a la producción económica de productos sostenibles y personalizados.

Sobre Experian DACH

Experian es líder mundial en servicios de información y tecnología de la información. Ayuda a sus clientes a utilizar los datos con confianza. Experian apoya a particulares a tomar control de sus finanzas y acceder a servicios financieros. Para las empresas, Experian facilita decisiones inteligentes que fomentan el crecimiento. Asiste a los prestatarios en el uso responsable de los créditos. Las organizaciones reciben las herramientas necesarias para protegerse contra fraudes de identidad y delitos. En la región DACH, Experian ofrece a empresas de todos los tamaños y sectores, como operadores de comercio electrónico, aseguradoras, instituciones financieras y empresas de telecomunicaciones, la mejor base para gestionar riesgos, fraudes e identidades.