Regulación de la IA en Europa: ¿qué exige la nueva ley y cómo responden las empresas?

informeactual1 year ago1 year ago909 mins

La iniciativa, denominada AI ACTion, establece una hoja de ruta para que las organizaciones respondan a sus obligaciones legales y evolucionen hacia una IA ética y competitiva.
El proyecto incluye el primer Certificado de Transparencia Algorítmica de España, concedido por Adigital y reconocido por la OCDE.
En agosto comenzarán a aplicarse las nuevas obligaciones para los sistemas de IA de propósito general como los modelos extenso de lenguaje (LLM), que simulan la interacción humana mediante el procesamiento de grandes cantidades de datos.

Minsait, compañía del grupo Indra, presenta AI ACTion, una propuesta a las organizaciones para que la adopción de la IA en sus operaciones y procesos cumpla con la legislación europea sobre inteligencia artificial –la conocida como AI Act– sin perder capacidad innovadora.

Aprobada en marzo de 2024 y en vigor desde agosto de ese mismo año, la normativa aplicable en la UE –tanto en compañías europeas como en aquellas que operan en los Estados miembros– establece una serie de requisitos de obligado cumplimiento y aplicación paulatina.

Desde el pasado mes de febrero y según la normativa, que contempla multas de hasta el 7% de los ingresos de las empresas infractoras, los sistemas de IA que utilizan algunas de las prácticas prohibidas por el reglamento europeo debían caer en desuso y las compañías han de contar con un plan de alfabetización y concienciación. A partir de agosto, se aplicarán las obligaciones para los sistemas de inteligencia artificial de propósito general como los modelos extensos de lenguaje (LLM), que tienen gran capacidad para imitar el razonamiento humano.

En agosto de 2026, con la exigencia de los requisitos correspondientes a algunos sistemas de alto riesgo –aquellos que puedan representar una amenaza a la seguridad o los derechos humanos–, concluirá su implantación y la AI Act será una realidad para todas las organizaciones, sectores de actividad y niveles de adopción y desarrollo de la inteligencia artificial.

En medio de este escenario, AI ACTion pretende guiar a las compañías para entender el nivel de vulnerabilidad ética de sus sistemas de IA, conocer las obligaciones legales que les corresponden y, especialmente, poder evolucionarlas a prácticas concretas dentro de la organización sin que represente una merma en su competitividad.

La metodología de Minsait consta de tres fases. La primera de ellas contempla el análisis individualizado de los sistemas de IA de los que dispone una compañía o institución, estudiando sus datos, técnicas, lógicas, contexto e impacto, y asegurando que incluye toda la información que exige la normativa.

Este análisis permite al equipo de expertos en IA Responsable de Minsait cruzar la información obtenida sobre dichos activos con los niveles de riesgo contemplados en la legislación europea a fin de establecer categorías basadas en el impacto del sistema de IA desde el punto de vista de la ética y la responsabilidad.

A continuación, la empresa que accede al servicio dispone de un itinerario de prácticas de cumplimiento en el uso de la inteligencia artificial dentro de su organización, incluidos controles rutinarios en materia de privacidad, gobierno del dato o transparencia. Estos itinerarios se concretan en acciones particulares que atienden a las especificidades de cada sistema IA, facilitando la implementación de las prácticas exigidas por AI Act.

En tercer lugar y considerando el trabajo previo, desde Minsait plantean a cada empresa la combinación de componentes técnicos o herramientas que permitan incrementar la trazabilidad, pertinencia y facilidad de uso para todos los gestores de la IA dentro de la organización.

Por otra parte, y como resultado de la alianza de Minsait con Adigital (Asociación Española de la Economía Digital), AI ACTion ofrece a las organizaciones la posibilidad de demostrar el cumplimiento de las obligaciones establecidas por la normativa europea a los sistemas de riesgo reducido y riesgo alto gracias al primer Certificado de Transparencia Algorítmica de España, diseñado por Adigital y reconocido por la OCDE dentro de su catálogo de herramientas confiables de inteligencia artificial. Asimismo, dentro del marco AI ACTion, Minsait y Adigital también han creado un Certificado de Neutralidad de reciente lanzamiento al mercado.

Obligaciones inminentes

“El gran reto de las organizaciones es traducir la normativa a prácticas concretas, lo que requiere el apoyo de aceleradores, con los que ya contamos, y un cambio cultural”, explica Leticia Gómez Rivero, responsable de Estrategia y Gobierno de IA en Minsait. “Por eso es tan importante el trabajo que estamos desarrollando desde AI ACTtion y que tiene foco en tres elementos: estrategia, acciones y herramientas que sustenten las buenas prácticas”, añade.

Por su parte, César Tello, director general de Adigital, señala que “la transparencia algorítmica es fundamental para construir confianza en los sistemas de IA. A través del certificado que hemos desarrollado en Adigital, las empresas podrán alinearse con los requisitos regulatorios, fortalecer su competitividad y operar de manera responsable y diferenciada en mercados con expectativas crecientes sobre transparencia y explicabilidad algorítmica”.