EU AI Act: Las 8 Prácticas de Inteligencia Artificial Prohibidas en Europa

Introducción: Un Cambio de Paradigma Regulatorio

El 1 de agosto de 2024, la Unión Europea adoptó el Reglamento de Inteligencia Artificial (EU AI Act, Regulación 2024/1689), el primer marco regulatorio comprehensivo del mundo que establece normas legales vinculantes para sistemas de IA. Desde el 2 de febrero de 2025, un elemento crítico de esta regulación está en vigencia: la prohibición absoluta de 8 prácticas específicas de IA consideradas de "riesgo inaceptable."

Estos no son requisitos de transparencia, no son regulaciones de cumplimiento flexible, y no son recomendaciones. Son prohibiciones directas que conllevan sanciones de hasta 6% del revenue global anual para empresas en violación.

Este análisis examina qué significa conceptualmente estas 8 prohibiciones, por qué Europa las consideró fundamentales para proteger derechos, y cómo transformarán la práctica legal y el desarrollo de tecnología.

---

I. El Enfoque Europeo: "Riesgo Inaceptable" como Concepto Fundacional

Antes de analizar las 8 prohibiciones específicas, es esencial entender la lógica regulatoria que las subyace.

El EU AI Act adopta un enfoque basado en riesgo que categoriza sistemas en cuatro niveles:

1. Riesgo Inaceptable: Sistemas que vulneran fundamentalmente derechos. → PROHIBIDOS
2. Riesgo Alto: Sistemas que afectan derechos significativamente. → Requisitos estrictos
3. Riesgo de Transparencia: Sistemas con riesgos limitados. → Obligaciones transparencia
4. Riesgo Mínimo: Mayoría de sistemas. → No regulados (pero códigos voluntarios posibles)

Qué Significa "Riesgo Inaceptable"

Un sistema IA presenta "riesgo inaceptable" cuando su propia naturaleza, independientemente del contexto o intención, vulnera derechos fundamentales consagrados en la Carta de Derechos Fundamentales de la UE:

• Dignidad humana (Artículo 1)
• Igualdad (Artículo 20)
• No discriminación (Artículo 21)
• Protección datos (Artículo 8)
• Privacidad (Artículo 7)
• Libertad expresión (Artículo 11)
• Libertad de pensamiento, conciencia, religión (Artículo 10)
• Presunción inocencia (Artículo 48)

La distinción crítica: No es "¿puede este sistema usarse mal?" sino "¿es la naturaleza misma del sistema incompatible con derechos fundamentales?"

---

II. Las 8 Prácticas Prohibidas: Análisis Conceptual

Prohibición 1 & 2: Manipulación Perjudicial y Explotación de Vulnerabilidades (Art. 5.1.a-b)

La Línea Entre Persuasión Lícita y Manipulación Prohibida

Europa distingue conceptualmente entre:

Persuasión lícita:

• Información clara presentada de forma comprensible
• Presentación de opciones (incluso sesgada)
• Marketing, publicidad, argumentación
• Permite a persona ejercer discernimiento

Manipulación prohibida:

• Técnicas subliminales (operan bajo umbral consciente)
• Información diseñada deliberadamente para engañar
• Presentación que impide discernimiento racional
• Altera comportamiento de forma sustancial
• Con perjuicios considerables probables

Ejemplo conceptual:

LÍCITO:
Plataforma e-commerce muestra producto "A" primero
porque usuario compró similar. Usuario ve alternativas.

PROHIBIDO:
Algoritmo IA manipula presentación visual para que
usuario no vea opción "B" más barata. O presenta
información falsa sobre producto.

Explotación de Vulnerabilidades: Protección Específica

La segunda prohibición reconoce que ciertos grupos—menores, ancianos, personas con discapacidad, población vulnerable socioeconómicamente—requieren protección adicional.

No es que estén "prohibidas" decisiones sobre estos grupos. Es que sistemas específicamente diseñados para explotar su vulnerabilidad son inaceptables.

Ejemplo:

Permitido: Sistema crediticio que evalúa anciano de forma rigurosa
pero justa, igual que a cualquier solicitante.

Prohibido: Sistema que deliberadamente explota aislamiento/
soledad de anciano para manipular decisión financiera.

Prohibición 3: Puntuación Ciudadana (Art. 5.1.c)

El Concepto Más Significativo Geopolíticamente

Esta prohibición—más que cualquier otra—define una diferencia fundamental entre modelo regulatorio europeo y chino.

¿Qué prohíbe exactamente?

Sistemas que:

1. Evalúan/clasifican comportamiento social O características personales/personalidad
2. Durante período determinado
3. Generan consecuencias en contextos sin relación directa
4. O resultan en trato injustificado/desproporcionado con gravedad

Por qué es prohibida:

La guía oficial explica que puntuación ciudadana vulnera:

• Dignidad humana (reducir persona a "puntuación")
• Igualdad (trato diferenciado sin justificación)
• Libertad de pensamiento (presión conformarse a puntuación)
• Principios Estado de Derecho (castigo sin debido proceso)

¿Qué NO prohíbe?

• Credit scoring (evaluación financiera con relación directa a crédito)
• Performance reviews (evaluación con relación al trabajo)
• Evaluaciones académicas (evaluación con relación a rendimiento)

Distinción clave:

Credit Scoring = Lícito (relación directa entre historial financiero y capacidad pagar)

Puntuación Social = Prohibido (evaluación comportamiento social genera
consecuencias en acceso vivienda, trabajo, servicios —contextos sin relación)

Prohibición 4: Predicción Individual de Delitos Basada en Perfilado (Art. 5.1.d)

Presunción de Inocencia en Era de IA

Esta prohibición operacionaliza un principio fundamental: no se puede condenar (o restriccionar) a alguien por quién es, solo por qué ha hecho.

Prohibido:

• Predicción que "Juan probablemente cometa delito" basada en:
  • Perfil demográfico
  • Características personalidad
  • Historia familiar
  • Estatus socioeconómico
  • Perfilado psicológico

Permitido:

• Predicción basada en hechos objetivos verificables:
  • "Juan fue arrestado 3 veces por robo" = hecho
  • Análisis de ese hecho = permitido
  • Pero: decisión final requiere evaluación humana

Implicación profunda:

La prohibición reconoce que perfilado por IA, incluso si "estadísticamente correlacionado" con delito, viola presunción inocencia. No es suficiente que algoritmo sea "preciso"—es incompatible con derechos fundamentales.

Prohibición 5: Extracción No Selectiva de Datos Faciales (Art. 5.1.e)

Derecho a Privacidad vs. Vigilancia Masiva

Esta prohibición bloquea específicamente la creación de bases datos de reconocimiento facial mediante extracción masiva/no selectiva de:

• Internet (redes sociales, Google, etc.)
• Circuitos CCTV (vigilancia espacios públicos)

¿Por qué es prohibida?

No es el reconocimiento facial per se (tiene usos legítimos). Es la acumulación masiva de datos faciales sin consentimiento que posibilita vigilancia extensiva.

Prohibido:

Empresa extrae todas caras de Instagram
→ Crea base datos de millones de personas
→ Sin consentimiento
→ Para reconocimiento
PROHIBIDO

Permitido:

Policía busca específicamente cara de persona desaparecida
→ En CCTV ciudad
→ Con búsqueda selectiva/orientada
→ Para localizar
PERMITIDO

Prohibición 6: Reconocimiento de Emociones en Workplaces y Escuelas (Art. 5.1.f)

Dignidad Humana en Espacios de Dependencia

Esta prohibición reconoce vulnerabilidad específica en dos contextos:

1. Workplaces: Empleado depende económicamente; poder asimétrico
2. Escuelas: Menores; desarrollo cognitivo aún en progreso

Prohibido:

• Sistema IA que deduzca emociones de empleado/estudiante
• Para evaluar desempeño/aptitud
• Incluso con consentimiento (se considera situación coercitiva)

Permitido:

• Reconocimiento emocional en contexto médico (diagnóstico)
• Reconocimiento emocional en contexto seguridad (detectar crisis)
• Con consentimiento informado real

Razón conceptual:

La guía explica que en workplaces/escuelas, hay "poder estructural" que hace consentimiento menos libre. Además, inferir emociones es profundamente invasivo de privacidad mental.

Prohibición 7: Categorización Biométrica de Características Sensibles (Art. 5.1.g)

Prohibición Categórica de Inferencia Sobre Identidades Protegidas

Esta prohibición es absolutamente clara: No se puede usar datos biométricos para deducir/clasificar según:

• Raza
• Opiniones políticas
• Afiliación sindical
• Convicciones religiosas/filosóficas
• Vida sexual
• Orientación sexual

No hay excepciones. Ni siquiera para "inclusión" o "investigación."

La prohibición cubre:

• Incluso si no hay intención discriminatoria
• Incluso si para propósito inclusivo
• Incluso si persona consiente (consentimiento no cura)

Razón conceptual:

Estas son identidades fundacionales de persona. Reducirlas a "categorías" inferidas de datos biométricos es inherentemente contrario a dignidad. No se trata de riesgo—se trata de incompatibilidad conceptual.

Prohibición 8: Identificación Biométrica Remota en Tiempo Real (Art. 5.1.h)

La Prohibición Más Complicada (con Excepciones Limitadas)

Esta es la única de las 8 prohibiciones que tiene excepciones explícitas. Eso sugiere la gravedad: la prohibición es regla; excepciones son muy limitadas.

Prohibida: Identificación biométrica remota (reconocimiento facial) en tiempo real en espacios públicos con fines de cumplimiento ley (ej: control policial)

¿Por qué?

Capacidad de identificar masivamente a ciudadanos en movimiento, sin que sepan están siendo identificados, con fines de control estatal = vigilancia masiva fundamentalmente incompatible con libertad y privacidad.

Excepciones permitidas (con salvaguardas estrictas):

1. Búsqueda selectiva de víctimas/desaparecidos

   • Delitos graves específicos (secuestro, trata, explotación sexual menores)
   • Búsqueda deliberada de víctimas conocidas O desaparecidos
   • Requiere: Autorización judicial, registro de usos, evaluación impacto

2. Amenaza inminente grave

   • Riesgo grave/inminente a vida
   • Atentados terroristas
   • Requiere: Autorización previa, evaluación impacto

3. Sospechosos delitos graves

   • Localización/identificación de sospechosos específicos
   • De delitos graves (no delitos menores)
   • Requiere: Autorización previa, evaluación impacto, notificación

Condición fundamental: Todas excepciones requieren autorización PREVIA (judicial O administrativa independiente). No se puede usar "post-hoc" demostrando que era necesario.

---

III. Implicaciones Para la Profesión Legal

A. Qué Está Prohibido en Práctica Legal

Prohibido bajo EU AI Act:

1. ❌ Usar IA para "puntuación de cliente"

   • Sistema que evalúa cliente y genera restricciones
   • Ej: "Cliente dudoso, rechazar" basado en perfilado

2. ❌ Reconocimiento emocional de clientes/adversarios

   • Ej: Sistema que detecta si cliente "miente" analizando emociones

3. ❌ Predicción de que cliente "cometerá delito" sin hechos objetivos

   • Basado solo en perfilado/características
   • Incluso si estadísticamente correlacionado

4. ❌ Extracción masiva de datos faciales para base datos

   • Ej: Scraping de LinkedIn para crear base datos

5. ❌ Categorización de clientes por raza/religión/orientación sexual

   • Incluso inferida de datos biométricos/comportamentales

B. Qué SÍ Está Permitido

Permitido bajo EU AI Act:

1. ✅ IA para análisis legal (investigación, research)
2. ✅ IA para organización/categorización de documentos
3. ✅ IA para apoyo a decisiones legales—SI basado en hechos objetivos verificables
4. ✅ IA para predecir precedentes/jurisprudencia
5. ✅ IA para evaluación de cliente—SI basado en información verificable (capacidad pagar, antecedentes reales, etc.)

C. Cambios Prácticos Inmediatos

Ahora mismo (vigencia 2.2.2025):

Auditoría interna recomendada:

• Revisar si firma usa IA de cualquier forma
• Para cada uso: ¿Cumple con prohibiciones Art. 5?
• Si incumple: Cesar inmediatamente

Governance:

• Establecer política sobre IA en firma
• Documentar usos permitidos vs. prohibidos
• Training para abogados sobre cumplimiento

Contratación:

• Si firma usa herramientas IA de terceros: Verificar cumplimiento proveedor
• Obtener certificación de proveedor

---

IV. Implicaciones Para Empresas de Tecnología y IA

Prohibiciones Dirijan la Innovación

Las prohibiciones EU AI Act tienen efecto de eliminar ciertos modelos de negocio completamente:

Modelos de negocio que mueren:

• Puntuación social/ciudadana
• Extracción masiva facial data para vigilancia
• Reconocimiento emocional en HR/educación
• Predicción de criminalidad por perfilado

Modelos de negocio que requieren rediseño:

• Reconocimiento facial → Permitido solo con consentimiento selectivo/específico
• Perfilado de personas → Debe basarse en hechos objetivos, no inferencias
• IA predictiva en justicia → Requiere supervisión humana explícita

Cumplimiento Obligatorio

Esto no es opcional. Empresas en violación enfrentan:

• Multas hasta 6% de revenue global anual
• Prohibición operar en EU
• Responsabilidad civil
• Confiscación de sistemas

---

V. Implicaciones Para Autoridades Públicas

Restricciones en Vigilancia

El EU AI Act restringe capacidades de vigilancia estatal más que cualquier régimen anterior:

• Reconocimiento facial masivo: PROHIBIDO
• Puntuación ciudadana: PROHIBIDO
• Predicción delitos por perfilado: PROHIBIDO

Excepciones muy limitadas:

• Solo con autorización judicial PREVIA
• Solo para delitos graves específicos
• Con notificación, registro, supervisión

Esta es revolución regulatoria vs. capacidades de vigilancia existentes.

---

VI. Hacia Dónde Va: Evolución Esperada

Próximos 12-24 Meses

Esperado:

1. Enforcement: Autoridades EU comenzarán investigaciones de cumplimiento
2. Jurisprudencia: Primeros casos ante tribunales
3. Clarificación: TJUE ofrecerá interpretación de conceptos complejos
4. Convergencia global: Otros países (UK, Canada, Australia) adoptarán prohibiciones similares

Largo Plazo (3-5 años)

Tendencia:

• Prohibiciones se volverán más específicas (no solo conceptuales)
• Nuevas prácticas serán identificadas como riesgo inaceptable
• Estándar europeo se convertirá en facto global (efecto "Brussels")

---

VII. Conclusión: Un Momento de Ruptura

El EU AI Act, particularmente sus prohibiciones en Art. 5, representa ruptura con enfoque anterior a regulación de tecnología.

Antes: Regulación por post-hoc (detectamos daño, regulamos) Ahora: Regulación preventiva (prohibimos directamente si incompatible con derechos)

Esto tiene implicaciones profundas:

Para profesión legal: Requiere auditoría inmediata de cualquier uso IA. Cumplimiento no es opcional.

Para empresas tecnología: Ciertos modelos de negocio son irrecuperables en EU. Rediseño es obligatorio.

Para sociedad: Es afirmación clara que algunos usos de IA son indefendibles—no importa cuan "eficientes" o "precisos" sean técnicamente.

El mensaje: Derechos fundamentales no son negociables. Innovación debe respetar dignidad humana.

---

Versión resumida disponible: Leer guía práctica para abogados (7 minutos)