La Eurocámara ha fijado su posición sobre la IA de cara a las negociaciones para pactar el texto definitivo de la Ley de Inteligencia Artificial. Con 499 votos favorables, 28 en contra y 93 abstenciones, se aprobó la Propuesta de Ley y, desde ayer, empezó la fase negociación entre la propia Cámara, el Consejo de la UE y la Comisión Europea. La Eurocámara espera alcanzar un acuerdo a finales de año, con la entrada en vigor de la ley a principios de 2026.
Por medio de la aprobación de la Propuesta de Ley, el Parlamento Europeo se opone a la vigilancia biométrica en tiempo real y fija sus condiciones para los sistemas generativos de texto o imágenes, como ChatGPT.
«Aunque el uso de sistemas de reconocimiento facial para la seguridad pública presenta ventajas reales, su omnipresencia e intrusión, así como su susceptibilidad al error, suscitan una serie de preocupaciones en materia de derechos fundamentales, por ejemplo, en relación con la discriminación de determinados segmentos de la población y las violaciones del derecho a la protección de datos y a la intimidad», aclaran desde la UE en el documento Artificial intelligence act.
Prohibición de la vigilancia biométrica en tiempo real
La Propuesta de Ley sobre Inteligencia Artificial prohíbe explícitamente las prácticas nocivas de la IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. En consecuencia, estaría prohibida en la UE la comercialización, puesta en servicio o uso de los siguientes recursos tecnológicos:
- Sistemas de identificación biométrica a distancia «en tiempo real» en espacios de acceso público con fines policiales, excepto en un número limitado de casos.
- Sistemas de IA utilizados por las autoridades públicas, o en su nombre, con fines de puntuación social.
- Sistemas de IA que despliegan «técnicas subliminales« manipuladoras perjudiciales;
- Sistemas de IA que explotan a grupos vulnerables específicos (discapacidad física o mental).
En este contexto, además de la legislación vigente aplicable, el Proyecto de Ley sobre la IA propone introducir nuevas normas para estas tecnologías y diferenciarlas según sus características de uso de «alto riesgo» o «bajo riesgo»
Se fija así la prohibición de sistemas de reconocimiento facial en tiempo real en espacios de acceso público con fines policiales, «a menos que los Estados miembros decidan autorizarlos por razones importantes de seguridad pública y se concedan las autorizaciones judiciales o administrativas pertinentes», según informa el Artificial intelligence act, destacando además que «los sistemas de reconocimiento facial utilizados con fines de categorización se considerarían sistemas de bajo riesgo y sólo estarían sujetos a requisitos limitados de transparencia e información».
Condiciones para la IA generativa
La IA generativa, como ChatGPT, tendrá que cumplir requisitos de transparencia como revelar que el contenido ha sido generado por Inteligencia Artificial, evitar que genere contenidos ilegales y publicar los datos protegidos por derechos de autor.
La prioridad del Parlamento es fijar la prohibición estricta de sistemas de IA con un nivel inaceptable de riesgo para la seguridad de las personas, «incluidos los sistemas que desplieguen técnicas subliminales o de manipulación intencionada, exploten las vulnerabilidades de las personas o se utilicen para el scoring social«.
Los eurodiputados ampliaron la clasificación de áreas de alto riesgo para incluir los daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente. También añadieron a la lista de alto riesgo los sistemas de IA para influir en los votantes en las campañas políticas y en los sistemas de recomendación utilizados por las plataformas de redes sociales.
