En un hito histórico, la Unión Europea ha trazado un nuevo camino en el ámbito de la tecnología al establecer las primeras reglas globales para la inteligencia artificial (IA), resultado de intensas negociaciones entre el Consejo y el Parlamento Europeo. El «Acta de Inteligencia Artificial», fruto de un maratón de conversaciones de tres días, no solo marca un antes y un después en el tratamiento de la IA, sino que también resalta el compromiso europeo por un desarrollo tecnológico responsable y ético.
La secretaria de Estado española de Digitalización e Inteligencia Artificial, Carme Artigas, señaló que «estamos presenciando un logro histórico y un gran hito hacia el futuro». En el comunicado de prensa del Consejo Europeo, Artigas destacó la importancia del acuerdo, que «aborda eficazmente un reto mundial en un entorno tecnológico en rápida evolución», al mismo tiempo que impulsa «la innovación y la adopción de la inteligencia artificial en toda Europa, respetando plenamente los derechos fundamentales de nuestros ciudadanos».
La primera ley de inteligencia artificial
La implementación del llamado «Acta de Inteligencia Artificial» tiene como objetivo que los sistemas de IA colocados en el mercado europeo y utilizados en la UE sean seguros, respeten los derechos fundamentales y los valores de la UE, y estimulen la inversión y la innovación en IA en Europa.
El «Acta de Inteligencia Artificial» se orienta hacia un enfoque basado en el riesgo, donde las reglas serán más estrictas para aquellas aplicaciones de IA que presenten mayores riesgos. Este enfoque pretende establecer un estándar global en la regulación de la IA, similar a lo que logró el GDPR en protección de datos.
Entre los elementos clave del acuerdo provisional se destacan normas sobre modelos de IA de propósito general que pueden causar riesgos sistémicos, así como sobre sistemas de IA de alto riesgo. También se revisó el sistema de gobernanza, otorgando algunos poderes de ejecución a nivel de la UE y se extendieron las prohibiciones, pero permitiendo el uso de identificación biométrica remota por autoridades policiales en espacios públicos, siempre sujetas a salvaguardas.
Protección de derechos
La protección de derechos se reforzó mediante la obligación de realizar una evaluación de impacto en derechos fundamentales antes de utilizar sistemas de IA de alto riesgo. En términos más concretos, el acuerdo provisional abarca aspectos como la definición y el alcance, asegurando que la definición de un sistema de IA proporcione criterios claros para distinguir la IA de sistemas de software más simples.
Se clarificó que el Acta de IA no se aplicará a sistemas usados exclusivamente para propósitos militares o de defensa, y tampoco a sistemas utilizados solo para investigación e innovación. En cuanto a la clasificación de sistemas de IA, se estableció una categorización de «alto riesgo», donde ciertas aplicaciones de IA serían autorizadas bajo requisitos específicos para acceder al mercado de la UE.
Uso de sistemas biométricos
El acuerdo también aborda las excepciones para el uso de sistemas de identificación biométrica en tiempo real por parte de las autoridades policiales, estableciendo condiciones estrictas y limitadas para su uso. Por ejemplo, se permitiría el uso en casos de «prevención de amenazas terroristas específicas y actuales, o la localización o identificación de una persona sospechosa de haber cometido delitos específicos mencionados en la regulación».
Entornos de prueba controlados
En cuanto a la innovación, se modificaron las disposiciones para apoyar el desarrollo de sistemas de IA innovadores, incluyendo entornos de prueba controlados y condiciones específicas para pruebas en condiciones reales. Para aliviar la carga administrativa de las empresas más pequeñas, el acuerdo provisional incluye una lista de acciones a realizar para apoyar a dichos operadores y prevé algunas derogaciones limitadas y claramente especificadas.
Sanciones por violaciones del Acta de IA
Las multas por violaciones del Acta de IA se establecieron como un porcentaje del volumen de negocios global anual de la empresa infractora o un monto predeterminado, con límites más proporcionados para PYMES y startups. Además, se aclara que una persona natural o jurídica puede presentar una queja ante la autoridad de vigilancia del mercado correspondiente sobre el incumplimiento del Acta de IA y esperar que dicha queja se maneje de acuerdo con los procedimientos dedicados de esa autoridad.
El acuerdo provisional establece que el Acta de IA deberá aplicarse dos años después de su entrada en vigor, con excepciones para ciertas disposiciones específicas. Tras el acuerdo provisional de hoy, los trabajos continuarán a nivel técnico en las próximas semanas para finalizar los detalles de la nueva regulación.
¿Y en el resto del mundo?
La implicación global de la ley de la UE sobre Inteligencia Artificial es innegable. La imagen compartida por Thierry Breton en Twitter, con su gráfica que muestra «Continentes con una regulación de Inteligencia Artificial. Europa 100%, Otros 0%», pone de manifiesto la brecha regulatoria que se está abriendo en el mundo.
Europa, una vez más, se posiciona como líder en el desarrollo de regulaciones tecnológicas avanzadas con un enfoque ético sólido, en línea con su rica tradición humanista. Este esfuerzo de la UE para establecer límites en el ámbito de la IA es probable que sirva como un modelo para otros países fuera de la Unión Europea, sentando un precedente importante y promoviendo una regulación más responsable y equitativa de la IA en todo el globo.
