Inteligencia Artificial Generativa y Explotación Sexual Infantil Digital: Análisis de la Responsabilidad Penal en el Ordenamiento Español

1.1 Planteamiento Inicial

El confluencia entre inteligencia artificial generativa y redes sociales ha originado un ecosistema de riesgo sin precedentes para la explotación sexual digital de menores. La estimación de que Grok generó más de 3 millones de deepfakes sexualizados en 11 días, incluyendo 23.000 de niños, junto con el aumento del 16x en deepfakes pornográficos (de 500.000 en 2023 a 8M estimado en 2025 según Comisión Europea), dimensiona la magnitud de la crisis.

El ordenamiento jurídico español, mediante el Código Penal (artículos 189 y 189 bis) y la normativa de protección de menores, contempla ya los mecanismos de tipificación necesarios. Sin embargo, la rapidez de la evolución tecnológica y la arquitectura global de las plataformas digitales generan vacíos aplicativos que exigen análisis sistemático.

1.2 Bien Jurídico Protegido: La Indemnidad Sexual Infantil como Bien Colectivo

La jurisprudencia española consolida que el bien jurídico protegido por artículo 189 CP no es meramente la víctima concreta, sino "la protección genérica de la infancia" (STS 767/2007). Esta construcción adquiere especial relevancia en contexto digital:

• Daño Colectivo: La difusión masiva en RRSS (TikTok, Instagram) provoca "revictimización permanente" por viralidad incontrolable. El 98% de deepfakes son pornográficos, amplifcando exponencialmente el daño.

• Naturaleza del Bien: Trasciende la integridad física; abarca dignidad, intimidad y libre desarrollo. Supervivientes muestran 2-4x mayor probabilidad de autolesión y suicidio.

• Interés Público: No circunscrito a ámbito familiar sino "supraindividual o colectivo" (STS 842/2021). Ello legitima actuación ex officio del Ministerio Fiscal sin previa denuncia.

1.3 Subsunción en Tipos Penales: Análisis de Artículos 189 y 189 bis CP

A. Artículo 189.1.a) CP: Elaboración de Material Pornográfico
Requiere:
✓ Sujeto activo: Cualquiera
✓ Conducta: Elaboración material pornográfico
✓ Elemento objetivo: "Utilizando a menores" o "representaciones" realistas

Jurisprudencia previa (STS 395/2021): Equipara material virtual generado íntegramente por IA a pornografía real, en tanto constituye "delito de peligro abstracto". La sentencia 86/2024 (Juzgado de Menores Badajoz) condenó montajes pornográficos creados por compañeros de clase sobre 20 menores.

Aplicación a Deepfakes:
• Grok genera automáticamente sin verificación edad ni filtros (Common Sense Media)
• Usuarios crean deepfakes a partir de fotos reales de menores mediante una sola orden
• Pena: 6-12 años. Agravada (189.2) si víctimas <16 años o especial vulnerabilidad (hasta 18 años)

B. Artículo 189.1.b) CP: Distribución y Difusión
Modalidades concurrentes:

1. Distribución: Facilitación a terceros específicos
2. Ofrecimiento: Puesta a disposición en plataformas abiertas
3. Venta: Monetización mediante criptomonedas
4. Posesión para estos fines (189.5)

Dato crítico: Investigación Maldita.es (11.XII.2025) identificó 40 cuentas TikTok con 1,5M seguidores dedicadas exclusivamente a pornografía infantil real y generada por IA. Múltiples redireccionamientos a Telegram y plataformas de pago (Wall Street Journal, investigación 2023).

Relevancia de Algoritmos: Informe Alliance to Counter Crime Online (2024) constata que Instagram proporciona y recomienda activamente cuentas vinculadas a abuso sexual infantil, creando "bucles de recomendación" que amplifican contenido perjudicial.

Pena: 3-12 años según modalidad y circunstancias (189.2)

C. Artículo 189 bis CP: Difusión de Contenidos Destinados a Incitar
Tipificación específica para contenido que promueve, fomenta o incita delitos de pornografía infantil. Aplicable cuando:
• Material de naturaleza pedófila circula en redes abiertas
• Grupos Telegram (944 grupos según Sentencia Almería 202/2025) funcionan como comunidades de intercambio
• Contenido dirigido específicamente a atraer a potenciales abusadores

Elemento clave: No requiere consumación del abuso subyacente; basta con "destinación" a incitar. Ello amplía peligrosamente el radio de protección en contexto de algoritmos que redirigen y recomiendan.

Pena: 6 meses a 2 años

1.4 Responsabilidad Penal de Personas Jurídicas (Plataformas)

Artículo 31 bis CP establece responsabilidad de personas jurídicas por delitos cometidos a través de sus actividades. Aplicable a X, TikTok, Instagram cuando:

1. Defecto de Organización: No implementar filtros técnicos contra deepfakes
2. Falta de Supervisión: Algoritmos que recomiendan activamente contenido pedófilo
3. Incumplimiento de Deber de Cuidado: Ignorar mandatos DSA de evaluación de riesgos sistémicos

Caso emblemático: Comisión Europea investiga X/Grok bajo DSA (26.I.2026) por:
• No evaluar riesgos sistémicos derivados de IA
• Facilitar "distribución indiscriminada" de contenidos ilícitos
• Efectos negativos sobre menores (Art. 34.1.d DSA)
• Potencial infracción administrativa con multas hasta 6% de facturación global

Responsabilidad Concurrente (Art. 189 ter CP): Plataformas responden además por:
• Obligación de retirada inmediata de contenidos tras notificación
• Medidas cautelares de bloqueo (189.8 CP)
• Cooperación con INCIBE y autoridades judiciales

1.5 Delitos Conexos y Concurrencia

La Circular 2/2015 de la Fiscalía General del Estado reconoce que conductas de pornografía infantil frecuentemente concurren con otros delitos. En contexto de IA:

1. Delito contra Integridad Moral (Art. 173.1 CP): Sentencias 86/2024 (Badajoz) y 202/2025 (Almería) condenan simultáneamente por pornografía infantil E integridad moral. Distribución de deepfakes sexuales en RRSS constituye "acto hostil, vejatorio, humillante o degradante".

2. Sextorsión: Amenaza de difundir deepfakes para obtener coerción sexual. Encaja en coacciones (Art. 172 CP).

3. Grooming Pederasta: Uso de deepfakes para iniciar contacto con menores y manipulación psicológica.

4. Acoso (Art. 173.1 CP): Difusión reiterada dirigida a hostigamiento específico.

Importancia: Ello explica por qué el INCIBE reporta (2025) que 40% de consultas sobre IA (1.112 entre 1.I.2025-12.II.2026) potencialmente delictivas comparten "elemento común de grave afectación a libertad sexual de menores".

Fuente oficial (PDF)
Análisis_Jurídico_IA_Responsabilidad_Penal.pdf