EU AI Act: 8 Prácticas de IA Prohibidas - Lo Que Debes Saber Como Abogado

Situación: Vigencia 2 de Febrero de 2025

Desde 2 de febrero de 2025, la Unión Europea tiene 8 prácticas de inteligencia artificial completamente prohibidas según el EU AI Act (Regulación 2024/1689).

Esto no es "regulación flexible." No es "guía recomendada." Son prohibiciones directas que:

• ✅ Aplican ahora mismo
• ✅ A todos (sector público y privado)
• ✅ En toda la UE
• ✅ Con sanciones hasta 6% del revenue global anual

---

Las 8 Prácticas Prohibidas Resumidas

#	Prohibida	Aplica a	¿Qué Exactamente?
1	Manipulación perjudicial	Todos	Técnicas subliminales/engaño que alteren comportamiento
2	Explotación vulnerabilidades	Todos	Explotar edad/discapacidad/situación social para alterar comportamiento
3	Puntuación ciudadana	Todos	Sistema que evalúa comportamiento social + genera consecuencias en otros contextos
4	Predicción delitos (perfilado)	Todos	Predecir delito basándose SOLO en perfilado de persona
5	Extracción facial masiva	Todos	Crear base datos reconocimiento facial desde internet/CCTV sin filtro
6	Reconocimiento emociones	Workplaces + Escuelas	Deducir emociones de empleado/estudiante para evaluar
7	Categorización biométrica sensible	Todos	Usar datos biométricos para clasificar raza/religión/sexualidad
8	Identificación facial tiempo real	Autoridades públicas	Reconocimiento facial masivo en espacios públicos (con excepciones limitadas)

---

¿Qué Está PROHIBIDO Para Abogados/Firmas Legales?

Prohibición 1 & 2: Manipulación y Explotación

❌ Prohibido:

• Sistema IA que presenta información de forma deliberadamente engañosa
• Algoritmo que explota aislamiento de cliente vulnerable para manipular decisión
• Técnicas subliminales para alterar comportamiento de parte

✅ Permitido:

• Presentación clara de opciones (aunque favorezca una)
• Publicidad/marketing honesto sobre servicios
• Persuasión lícita

Prohibición 3: Puntuación Ciudadana

❌ Prohibido:

Sistema que evalúa cliente y genera restricciones:
"Cliente X: puntuación baja → rechazar"
"Cliente Y: puntuación baja → exigir garantía extra"
Basado en perfilado social, no en hechos verificables

✅ Permitido:

"Cliente X no tiene capacidad de pago → exigir garantía"
(Basado en información financiera verificable)

Prohibición 4: Predicción de Delitos por Perfilado

❌ Prohibido:

• IA que predice "Juan probablemente cometerá delito"
• Basándose SOLO en:
  • Perfil demográfico
  • Características de personalidad
  • Historia familiar
  • Sin hechos objetivos

✅ Permitido:

• IA que analiza "Juan fue arrestado 3 veces por robo"
• Y ayuda evaluar riesgo basado en HECHOS objetivos
• Pero: Decisión final (bail, sentencia) requiere humano

Prohibición 5: Extracción Facial Masiva

❌ Prohibido:

Actividad 1: Web scraping de redes sociales
→ Extraer TODAS las caras
→ Crear base datos
PROHIBIDO

Actividad 2: Instalar cámara en oficina
→ Extraer TODAS las caras
→ Sin consentimiento selectivo
PROHIBIDO

✅ Permitido:

Búsqueda selectiva:
Buscar cara específica de persona desaparecida en CCTV
(Búsqueda orientada, no masiva)

Prohibición 6: Reconocimiento Emociones (Workplaces/Escuelas)

❌ Prohibido:

• Sistema IA que deduce "estrés" de empleado
• Sistema que deduce "falta de atención" de estudiante
• Para evaluar desempeño
• Incluso con "consentimiento" (se considera coercitivo)

✅ Permitido:

• Clínica psicológica que deduce emoción para diagnóstico (con consentimiento real)
• Sistema que detecta persona en crisis para seguridad

Prohibición 7: Categorización Biométrica Sensible

❌ Prohibido (sin excepciones):

• Usar datos biométricos para deducir/clasificar:
  • Raza
  • Opiniones políticas
  • Religión
  • Vida sexual
  • Orientación sexual

✅ Permitido:

• Todo lo demás

Prohibición 8: Identificación Facial Tiempo Real (Principalmente para Autoridades)

❌ Prohibido:

• Policía usando reconocimiento facial masivo en calle
• Sin autorización judicial previa

✅ Permitido (con restricciones):

• Buscar específicamente víctima de delito grave
• Prevenir ataque terrorista inminente
• Localizar sospechoso delito grave
• REQUIERE: Autorización judicial PREVIA + notificación

---

¿Qué Está PERMITIDO Para Abogados/Firmas?

Usos Permitidos de IA

✅ Permitido usar IA para:

1. Investigación legal

   • Buscar jurisprudencia
   • Analizar precedentes
   • Research normativa

2. Organización de documentos

   • Categorizar documentos
   • Extraer información relevante
   • Summarizar contenido

3. Apoyo a decisiones

   • IA que ayuda evaluar caso
   • PERO: Si basado en hechos objetivos verificables
   • PERO: Decisión final requiere abogado

4. Análisis de riesgo

   • Evaluar riesgo caso
   • Basado en información verificable
   • No en perfilado de personas

5. Predicción jurisprudencia

   • IA que predice "caso similar fue fallado así"
   • Como herramienta de análisis
   • Para informar estrategia

---

¿Qué Debes Hacer Ahora Mismo? (Acciones Inmediatas)

Semana 1: Auditoría

CHECKLIST:
☐ ¿Mi firma usa IA de cualquier forma?
☐ ¿Para qué tareas?
☐ ¿Qué herramientas? (ChatGPT, Claude, Lexis+AI, etc.)
☐ ¿Cómo se usa? (Análisis, research, cliente?, etc.)

PARA CADA USO:
☐ ¿Cumple con 8 prohibiciones Art. 5?
  - ¿Manipulación? NO
  - ¿Explotación? NO
  - ¿Puntuación ciudadana? NO
  - ¿Predicción delitos? NO
  - ¿Datos faciales? NO
  - ¿Emociones? NO
  - ¿Datos biométricos sensibles? NO
  - ¿Identificación facial? NO

Si respuesta TODAS = NO → PERMITIDO
Si respuesta ALGUNA = SÍ → PROHIBIDO (cesar inmediatamente)

Semana 2-3: Governance

CREAR POLÍTICA IA FIRMA:
1. Usos permitidos (lista explícita)
2. Usos prohibidos (lista explícita)
3. Herramientas aprobadas/desaprobadas
4. Quién aprueba nuevos usos
5. Documentación requerida
6. Training obligatorio

Mes 1-2: Implementación

ACCIONES:
☐ Training para equipo legal sobre EU AI Act Art. 5
☐ Cesar cualquier uso prohibido inmediatamente
☐ Si usas herramientas terceros: Solicitar certificación cumplimiento
☐ Documentar todos usos permitidos (para demostrar cumplimiento)
☐ Actualizar términos engagement con clientes (transparencia)

---

Sanciones y Enforcement

Qué Pasa Si Incumples

Multas administrativas:

• Hasta 6% del revenue global anual (caso grave)
• O hasta €30,000,000 (lo que sea mayor)

Otras consecuencias:

• Prohibición operar en EU
• Confiscación de sistemas
• Responsabilidad civil
• Reputacional damage

Quién Fiscaliza

• Autoridades nacionales (España: AEPD principalmente)
• Autoridades de vigilancia de mercado
• Comisión Europea

El enforcement ha comenzado. Esto no es amenaza futura—es presente.

---

Preguntas Clave: Interpretación

¿Puedo usar ChatGPT público?

Depende del uso:

• ✅ Para research/análisis legal: SÍ (si no procesa datos sensibles clientes)
• ❌ Para analizar caso con datos sensibles sin safeguards: NO (GDPR + Art. 5)
• ✅ Para help drafting: SÍ (si verificas output antes usar)

¿Mi proveedor de LegalTech es responsable?

Responsabilidad compartida:

• Proveedor: Responsable de design cumplidor con Art. 5
• Firma: Responsable de uso
• Si proveedor viola + firma usa: AMBOS pueden ser sancionados

¿El consentimiento del cliente cura incumplimiento?

NO en casos de riesgo inaceptable:

• Consentimiento NO permite lo prohibido
• Incluso si cliente acepta usar IA que viola Art. 5 → sigue prohibido

¿Es retroactivo?

Para Art. 5 (prohibiciones): NO retroactivo

• A partir 2.2.2025 es obligatorio
• Usos antes: No sujetos a Art. 5
• Pero: Transferencias de datos a USA vía IA GDPR-prohibited desde siempre

---

Conclusión: Cómo Proceder

La realidad:

• EU AI Act prohíbe 8 prácticas efectivamente desde hace días
• Compliance es obligatorio—no opcional
• Auditoría de firmas está ocurriendo/ocurrirá

Acciones recomendadas:

1. Auditoría inmediata de cualquier uso IA
2. Cesar inmediatamente cualquier uso prohibido
3. Crear política clara firma
4. Training equipo
5. Seleccionar herramientas compliant
6. Documentar para demostrar compliance

Línea de fondo:

El EU AI Act no prohíbe IA. Prohíbe ciertos usos incompatibles con derechos fundamentales.

Puedes usar IA en práctica legal. Pero debes hacerlo sabiendo exactamente qué está permitido y qué no.

---

¿Quieres Profundizar?

El análisis completo incluye:

• Definición detallada de cada prohibición
• Conceptos jurídicos subyacentes
• Ejemplos complejos de interpretación
• Implicaciones para justicia criminal
• Implicaciones para autoridades públicas
• Hacia dónde va regulación

→ Leer Análisis Doctrinal Completo (20 minutos)

Incluye framework conceptual, análisis jurídico profundo, y evolución esperada.