UE AI Act (#2). Lo que está prohibido: usos inaceptables de la IA en la UE
Reading Time: 3 minutes
La UE AI Act establece una lista de prácticas de inteligencia artificial que están completamente prohibidas en la Unión Europea. Estas prohibiciones responden a un principio fundamental: proteger los derechos fundamentales, la seguridad y la dignidad de las personas frente a usos peligrosos de la IA.
En este artículo, exploramos qué tipos de IA han sido vetados, por qué se han prohibido y qué excepciones existen.
Las prácticas de IA prohibidas en la UE
1. Manipulación subliminal que cause daño
Cualquier sistema de IA diseñado para influir en el comportamiento de una persona sin que esta sea consciente de ello, y que pueda causarle daño físico o psicológico, está prohibido.
Ejemplo: Un asistente virtual que usa técnicas subliminales para manipular a los usuarios y hacerles comprar productos o adoptar comportamientos perjudiciales.
2. Explotación de vulnerabilidades de grupos específicos
Se prohíbe el uso de IA que aproveche vulnerabilidades de personas por su edad, discapacidad o situación social o económica, con el fin de influir en su comportamiento de manera perjudicial.
Ejemplo: Un sistema que manipule a niños para que realicen compras en videojuegos o que engañe a personas mayores para que den información personal sensible.
3. Calificación social al estilo de China
La UE prohíbe cualquier sistema de IA que evalúe y clasifique a personas según su comportamiento, estado económico o características personales, de manera que afecte injustamente su acceso a servicios o derechos.
Ejemplo: Un sistema que otorgue puntuaciones a ciudadanos en función de su historial financiero o comportamiento en redes sociales, limitando su acceso a beneficios públicos.
4. Identificación biométrica en tiempo real en espacios públicos
El uso de reconocimiento facial o identificación biométrica en tiempo real en lugares públicos está prohibido para la mayoría de los casos, debido al riesgo que representa para la privacidad y las libertades civiles.
Ejemplo: Cámaras de vigilancia que identifiquen y rastreen a todas las personas en una ciudad sin su consentimiento.
Excepciones:
El uso de identificación biométrica en tiempo real solo está permitido en casos extremadamente justificados, como:
- Búsqueda de víctimas de delitos (tráfico de personas, desapariciones).
- Prevención de amenazas terroristas.
- Investigación de delitos graves con pena superior a 5 años (previa autorización judicial).
¿Por qué se han prohibido estas prácticas?
La UE considera que estos usos de la IA suponen un riesgo inaceptable para los derechos humanos y la seguridad. En particular:
- Pueden manipular el comportamiento sin consentimiento.
- Crean desigualdades y discriminación.
- Atentan contra la privacidad y las libertades individuales.
Estas prohibiciones buscan garantizar que la IA sirva a la sociedad sin poner en riesgo los valores democráticos.
¿Qué significa esto para empresas y gobiernos?
Las empresas que desarrollen o utilicen sistemas de IA deben asegurarse de que no infringen ninguna de estas prohibiciones, o se enfrentarán a sanciones severas.
Para los gobiernos, esta normativa limita el uso de tecnologías de vigilancia, asegurando que la IA no se convierta en una herramienta de control masivo.
Las prohibiciones de la UE AI Act marcan un precedente global en la regulación de la inteligencia artificial, estableciendo límites claros sobre qué usos de la IA son inaceptables.
Referencias bibliográficas
-
Comisión Europea (2021). Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). EUR-Lex.
Disponible en: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206 -
Ministerio de Asuntos Económicos y Transformación Digital (2022). Resumen detallado del Reglamento Europeo de Inteligencia Artificial.
Disponible en el documento: https://avance.digital.gob.es/sandbox-IA/Paginas/reglamento-IA.aspx -
Comisión Europea (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de la Unión Europea sobre Inteligencia Artificial. EUR-Lex.
Disponible en: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689 -
Análisis actualizado sobre la Ley de Inteligencia Artificial de la UE (2024).
Fuente en el documento: https://www.eca.europa.eu/es/publications?ref=SR-2024-08 -
Sistema de gestión de riesgos en la Ley de Inteligencia Artificial de la UE.
Fuente en el documento: https://artificialintelligenceact.eu/es/article/9/
