Resumen ejecutivo

En julio de 2026, VerificaRTVE descubrió que «Martín», un joven con síndrome de Down que vendía maceteros «hechos a mano» en TikTok, no existía. Su rostro, su voz y sus lágrimas los había fabricado una inteligencia artificial. Dos meses después, FACUA-Consumidores en Acción denunció a otra tienda, francrafts.shop, que vendía bolsos con el mismo recurso: «Fran», otro joven sintético con síndrome de Down, con más de 50.000 seguidores en TikTok. Ambos casos llegaron a la Dirección General de Consumo, sin que conste expediente abierto.

Este artículo analiza esas estafas como un fenómeno nuevo. Los autores no suplantan a una persona conocida. Inventan a una persona vulnerable y usan su sufrimiento como gancho de venta. El espectador ve a un joven que llora porque nadie compra sus productos, se compadece y compra. AFP localizó clips parecidos en TikTok, YouTube e Instagram, también en español. La BBC y AFP documentaron un fenómeno vecino: cuentas que manipulan imágenes de mujeres reales para hacerlas parecer personas con síndrome de Down, o que generan imágenes sexualizadas de mujeres con discapacidad.

VerificaRTVE analizó los vídeos de Martín con tres detectores de contenido sintético, y todos coincidieron. De los catorce vídeos del perfil, once no llevaban aviso alguno de contenido artificial. Las tiendas incluyen cláusulas que niegan cualquier garantía sobre el producto, permiten cambiar las descripciones sin aviso, excluyen los impuestos del precio y descargan el retraso en el envío sobre el comprador. FACUA sostiene que esas cláusulas son abusivas, y AFP halló reseñas de cinco estrellas con el mismo texto y planos de vídeo tomados de creadores reales.

El análisis jurídico llega a conclusiones menos intuitivas de lo que parece. El artículo 5.1.b) del Reglamento (UE) 2024/1689, que prohíbe explotar la vulnerabilidad por discapacidad, parece hecho para este caso. Encaja mal. Exige que la vulnerabilidad explotada sea la del sujeto cuyo comportamiento se altera, y el comprador compasivo no es vulnerable en ese sentido. Una vía más prometedora es el artículo 5.1.a), sobre técnicas deliberadamente manipuladoras o engañosas, aunque su exigencia de «perjuicios considerables» deja abierta la pregunta de si se pueden sumar las pérdidas pequeñas de muchos compradores.

El artículo 50 del Reglamento impone etiquetar las ultrasuplantaciones desde el 2 de agosto de 2026. Los vídeos de Martín son anteriores a esa fecha. Los de Fran son posteriores, pero queda una duda: la definición del artículo 3.60 habla de contenido que se asemeja a personas reales, y no está claro que un personaje que no imita a nadie en concreto entre en ella. El artículo defiende la lectura amplia, por coherencia con la finalidad de la norma.

Las respuestas más sólidas, hoy, no están en la Ley de IA. La Ley de Competencia Desleal considera engañoso presentar como artesanal y hecho por una persona un producto que con toda probabilidad es industrial. El texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios permite declarar nulas las cláusulas abusivas y sancionar la omisión del precio con impuestos. El Código Penal ofrece la estafa del artículo 248.1 y, para pérdidas pequeñas repartidas entre muchos perjudicados, el artículo 74.2. Los proyectos legislativos en curso, sobre propia imagen, menores en entornos digitales y gobernanza de la IA, ayudan menos de lo que se anuncia: protegen a personas reales o se centran en contenido sexual.

Hay un daño que el derecho de consumo no mide. Down España calificó de «falsa caridad» el recurso, y Down Syndrome International advirtió de que los vídeos refuerzan el estereotipo de que las personas con síndrome de Down no pueden valerse por sí mismas y compiten con los emprendedores reales por la atención del público. Disability Rights UK y Scope hablan de explotación y de «caricaturas digitales». El marco de derechos humanos permite nombrar ese perjuicio aunque ninguna persona concreta haya sido engañada.

Sobre las plataformas, las fuentes dibujan una pauta. El perfil de Martín desapareció horas después de que VerificaRTVE preguntara a TikTok, y Meta anunció que investigaba los perfiles sexualizados tras la consulta de la BBC. La respuesta llega tras la presión mediática.

El texto cierra con cinco propuestas. Aclarar en las directrices de la Comisión si el personaje verosímil pero inexistente es una ultrasuplantación. Resolver si cabe sumar perjuicios en el artículo 5.1.a). Dotar de recursos a las administraciones de consumo, que ya tienen instrumentos para sancionar. Cerrar un protocolo entre consumo, la AESIA y protección de datos. Y medir el fenómeno, porque nadie publica cuántas cuentas hay, cuántas se retiran ni cuántas reaparecen.

Las limitaciones son claras. No hay sentencias, las plataformas no publican datos de moderación y varios proyectos de ley siguen en el Congreso. Las denuncias de FACUA son alegaciones de una parte. El artículo trata como hechos solo lo que los verificadores comprobaron y como hipótesis lo demás.

La compasión como vector de fraude: deepfakes de personas con síndrome de Down y vulnerabilidad en el comercio digital

1. Introducción: del deepfake como amenaza difusa al fraude con rostro vulnerable

1.1. Planteamiento del problema

En julio de 2026, VerificaRTVE reveló que «Martín», un joven con síndrome de Down que vendía «maceteros hechos a mano» en TikTok, no existía. Su rostro, sus lágrimas y sus escenas familiares salían de un sistema de inteligencia artificial generativa. El perfil había reunido más de 14.500 seguidores y más de 140.000 «me gusta», y su publicación de mayor alcance superó las 600.000 visualizaciones. La cuenta desapareció horas después de que la redacción preguntara a la plataforma (18). Dos meses más tarde, FACUA-Consumidores en Acción denunció ante la Dirección General de Consumo del Ministerio de Derechos Sociales, Consumo y Agenda 2030 la tienda francrafts.shop, que usaba como reclamo a «Fran», otro joven con síndrome de Down generado con IA, para vender bolsos tejidos «a mano». La cuenta de TikTok de Fran superaba los 50.000 seguidores (20). La asociación ya había denunciado en julio la tienda del caso Martín, MimoStore (19).

Los dos casos pertenecen a una pauta más amplia. En junio de 2026, AFP documentó vídeos de personajes con síndrome de Down, o de sus familiares, que decían sufrir acoso por vender artesanías, difundidos en TikTok, YouTube e Instagram y enlazados a tiendas de dudosa fiabilidad. La agencia localizó además numerosos clips similares en español (21).

El fenómeno se distingue de otras estafas con deepfakes. Los autores no suplantan a una persona real y conocida, como ocurre con las falsificaciones de celebridades que promocionan productos financieros. Inventan un personaje cuya credibilidad descansa en la condición de discapacidad que le atribuyen. El gancho emocional no es el prestigio del suplantado, es la vulnerabilidad del personaje inventado. Esta inversión de la lógica del deepfake fraudulento, de la autoridad a la compasión, justifica un análisis específico que las categorías generales del fraude digital no agotan.

Las organizaciones del sector reaccionaron con rapidez. Down España rechazó el uso de «la falsa caridad como estrategia de venta o marketing» y calificó de «incluso ofensivo» recurrir a personas con síndrome de Down como reclamo con una versión fabricada por IA (18). Nathan Rowe, director de programas de Down Syndrome International, advirtió a AFP de que los vídeos explotan una visión compasiva y paternalista de la condición (21). Las denuncias de FACUA son, por ahora, la respuesta institucional más visible en España. Este artículo examina qué instrumentos jurídicos ofrecen el Reglamento (UE) 2024/1689, el derecho de consumo, la protección de la propia imagen y el derecho penal frente a esta conducta, y dónde fallan.

1.2. Delimitación conceptual

Tres conceptos operan entrelazados en el fenómeno.

El deepfake tiene en el Reglamento (UE) 2024/1689 una definición expresa. El artículo 3, punto 60, lo denomina «ultrasuplantación» y lo define como el contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o veraces (1). La definición plantea una pregunta que importa aquí: ¿qué ocurre con un personaje que no reproduce a ningún individuo concreto? La lectura estricta exige la imitación de una persona determinada y deja fuera a Martín y a Fran. La lectura amplia se conforma con que el contenido se asemeje a personas reales y engañe sobre su autenticidad. Este trabajo defiende la segunda. El bien que protege la norma es la capacidad del espectador para distinguir lo auténtico de lo fabricado, y esa capacidad sufre igual daño cuando el rostro sintético es inventado que cuando es copiado. La cuestión sigue abierta y conviene tenerla presente en todo el análisis posterior.

La simulación de discapacidad es una subcategoría del deepfake de personas. A diferencia de la suplantación de una persona real, crea un personaje inexistente al que se atribuyen rasgos asociados al síndrome de Down y una narrativa de vulnerabilidad. La simulación no exige una víctima directa identificable, lo que genera problemas de legitimación activa y de aplicación de la tutela del derecho a la propia imagen.

El fraude emocional apela a la compasión, la empatía o la culpa para inducir una decisión de compra que el consumidor no habría adoptado con información completa. FACUA describe ese mecanismo con precisión: las publicaciones destacan de forma reiterada que el producto lo elabora un personaje triste por no vender o víctima de bullying, con el fin de inducir a los usuarios a comprar «movidos por la compasión o la empatía» (19, 20). El Código Civil define el dolo contractual como las palabras o maquinaciones insidiosas de uno de los contratantes que inducen al otro a celebrar un contrato que, sin ellas, no habría hecho (art. 1269) (2). Solo el dolo grave anula el contrato. El dolo incidental obliga solo a indemnizar daños y perjuicios (art. 1270) (2). Las maquinaciones, en estos casos, son las de quien crea, programa y publica el contenido sintético con la finalidad de vender.

1.3. Relevancia académica y vacío en la literatura

Hasta donde alcanza la revisión de fuentes de este trabajo, no existen estudios revisados por pares que aborden la intersección entre deepfakes, síndrome de Down y fraude de consumo. Quien quiera documentar el fenómeno depende hoy del periodismo de verificación, de las denuncias de asociaciones de consumidores y de los pronunciamientos de organizaciones de la sociedad civil. Esa base es útil y también frágil: las denuncias de FACUA son alegaciones de una parte ante la autoridad administrativa, no resoluciones, y las comprobaciones periodísticas no sustituyen a una pericia.

El vacío es también un problema de política pública. Sin un marco analítico que describa el fenómeno con precisión, la respuesta normativa corre el riesgo de ser fragmentaria o de ignorar las particularidades de un fraude que no encaja con limpieza en las categorías de publicidad engañosa, suplantación de identidad o discurso discriminatorio. Este artículo propone un análisis que combina la gobernanza algorítmica, el derecho de consumo y los derechos de las personas con discapacidad.

1.4. Metodología y fuentes

El análisis se apoya en un corpus jerarquizado: normativa oficial (Reglamento (UE) 2024/1689; Real Decreto Legislativo 1/2007; Ley 3/1991; Ley Orgánica 1/1982; Código Penal), proyectos legislativos en tramitación, documentos de la Comisión Europea, y reportajes de verificación con metodología explícita (VerificaRTVE, AFP Fact Check, BBC). Las fuentes se consultaron hasta el 11 de octubre de 2026.

El estudio distingue tres planos. Los hechos comprobados son la existencia de las cuentas, los vídeos y las tiendas, y su análisis con herramientas de detección por parte de los verificadores. La interpretación jurídica es la calificación de esas conductas conforme a las normas aplicables. Las hipótesis son las proyecciones sobre la evolución del fenómeno. Las limitaciones derivan del objeto: no consta ninguna resolución judicial firme sobre estos casos, las plataformas no publican datos internos de moderación y varios proyectos legislativos siguen en tramitación, de modo que sus efectos no pueden evaluarse con datos.

2. Marco técnico: los deepfakes aplicados a la simulación de discapacidad

2.1. Fundamentos técnicos de la generación de rostros sintéticos

La generación de rostros humanos sintéticos con apariencia realista descansa en arquitecturas de aprendizaje profundo que han avanzado con rapidez en la última década. Interesa aquí identificar los principios operativos que permiten crear personajes ficticios con rasgos asociados al síndrome de Down y entender por qué esas representaciones resultan cada vez más difíciles de distinguir de las imágenes auténticas.

Los sistemas de generación de imagen y vídeo emplean sobre todo redes generativas adversarias (GAN, por sus siglas en inglés) y modelos de difusión. En las primeras compiten dos redes neuronales: una generadora, que produce imágenes a partir de ruido aleatorio, y una discriminadora, que intenta separar las imágenes reales de las generadas. El entrenamiento conjunto empuja al generador a producir imágenes cada vez más verosímiles. Los modelos de difusión aprenden a invertir un proceso de adición gradual de ruido y generan imágenes eliminándolo de forma iterativa. Ambos enfoques crean rostros que no corresponden a ninguna persona real.

La accesibilidad de estas herramientas ha crecido a gran velocidad. Lo que hace unos años exigía equipos especializados y conocimientos avanzados está hoy al alcance de cualquier usuario con un teléfono y conexión a internet. Esa democratización reduce las barreras de entrada al fraude y multiplica el número de autores posibles. Así lo constató el análisis de una investigadora de la Universidad de Cambridge, que describió un panorama de herramientas gratuitas o baratas, con restricciones de contenido que unas aplican y otras no, o que se eluden con facilidad (8).

2.2. La simulación del síndrome de Down: rasgos faciales, filtros y modelos generativos

El síndrome de Down es una condición genética causada por la trisomía del cromosoma 21 y se asocia a rasgos fenotípicos reconocibles. Representarlos con IA exige que el modelo se haya entrenado con imágenes de personas con esa condición o que se apliquen filtros específicos sobre rostros sintéticos genéricos.

En los casos analizados, la simulación va más allá de alterar un rostro. Los vídeos de Martín mostraban a un personaje completo, con una familia ficticia y un entorno coherente con la narrativa del artesano vulnerable: un padre que le dice que nadie comprará sus macetas, una madre que pide al público que vea sus grabaciones, un puesto en un mercadillo del que un cliente se marcha sin comprar (18). Esto apunta al uso de generadores de vídeo completos y no solo de filtros faciales. Las fuentes señalan además que los autores combinan técnicas. AFP comprobó mediante búsqueda inversa que algunos planos de los clips procedían de creadores reales de cerámica, y la BBC y AFP han documentado la manipulación de imágenes de mujeres reales para hacerlas parecer personas con síndrome de Down (8, 22).

La coherencia narrativa es otro rasgo técnico relevante. Los vídeos no muestran un rostro estático. Incluyen al personaje llorando, regañado o consolado, acciones que refuerzan la verosimilitud de la historia. Mantener la consistencia de un personaje a lo largo de una secuencia fue durante años un obstáculo para la generación de vídeo. Los modelos actuales lo han superado con resultados suficientes para engañar a un espectador que no esté prevenido.

2.3. Herramientas de detección y su fiabilidad

La detección de contenido sintético avanza con rapidez y se enfrenta a un problema estructural: los detectores deben identificar artefactos de modelos que mejoran sin pausa. Existe una asimetría entre la capacidad generativa y la capacidad detectiva.

Los verificadores combinan herramientas y juicio humano. VerificaRTVE analizó los vídeos del caso Martín con Google SynthID, TruthScan y Hive, y concluyó que todos eran sintéticos (18). AFP aplicó Hive Moderation y obtuvo el mismo resultado probable, y completó el análisis con búsquedas inversas de imágenes (21). Ninguna herramienta es infalible, y la convergencia de varias refuerza la conclusión.

La verificación técnica se complementa con indicios visuales y auditivos que FACUA enumera en sus denuncias: movimientos faciales extraños o poco naturales, parpadeos irregulares, labios desincronizados con la voz, voz demasiado limpia o artificial, entonación monótona, respiraciones poco naturales y cortes o transiciones extrañas en el habla (19, 20). Combinar el análisis con herramientas y la inspección de esos indicios es la metodología más sólida a disposición de un verificador.

Las fuentes consultadas no informan de la tasa de falsos positivos o falsos negativos de estas herramientas sobre este tipo de contenido. Tampoco existe, hasta donde llega esta revisión, evidencia publicada sobre su eficacia comparada. La literatura técnica sí advierte, con carácter general, de que los detectores pierden precisión ante generadores que no vieron durante el entrenamiento y ante contenido circulante en redes, distinto del de los bancos de prueba de laboratorio (23).

2.4. Límites técnicos y su impacto en la verificación

Los límites operan en varias dimensiones.

El primero es la accesibilidad. Las herramientas de detección no están disponibles de forma gratuita y sencilla para el consumidor medio. Quien se enfrenta al vídeo de un supuesto joven con síndrome de Down que vende artesanía no dispone de medios técnicos para comprobar su autenticidad antes de comprar. Los autores del fraude explotan esa asimetría.

El segundo es el contexto. Verificar la autenticidad técnica de una imagen no agota el análisis. Un vídeo puede ser auténtico y estar insertado en una narrativa fraudulenta. En el fenómeno analizado, la narrativa (el joven que sufre acoso por vender sus productos) es el elemento central del engaño, con independencia de que la imagen sea sintética o real. La víctima, además, no es solo el consumidor engañado. Lo es también la persona cuya imagen se haya utilizado sin autorización, como documentan la BBC y AFP en los casos de imágenes de personas reales manipuladas (8, 22).

El tercero es la escalabilidad. Revisar a mano cada vídeo resulta inviable ante el volumen. Las plataformas recurren a sistemas automatizados de moderación que no siempre detectan el contenido engañoso. Como señala una investigadora de la Universidad de Cambridge citada por la BBC, incluso cuando existen salvaguardas resulta bastante fácil eludirlas si alguien insiste lo suficiente (8).

El cuarto es el etiquetado. VerificaRTVE contó 14 vídeos en el perfil de Martín. Once no llevaban ningún aviso de contenido artificial y tres indicaban que podían contener contenido creado con IA. La tienda tampoco advertía de que el joven no existía (18). La obligación de etiquetado del Reglamento de IA no era exigible cuando se publicaron esos vídeos, anteriores al 2 de agosto de 2026, pero la ausencia de avisos ilustra la dificultad práctica que el régimen debe resolver.

Estos límites dibujan un escenario en el que verificar la autenticidad del contenido es posible con medios técnicos e inaccesible en la práctica para el consumidor medio. La protección efectiva recae, por tanto, en las plataformas y en las autoridades de supervisión.

3. Anatomía del fraude: el modus operandi de las estafas con deepfakes de personas con síndrome de Down

3.1. La construcción del personaje ficticio

El elemento estructurante de estas estafas es la narrativa. La tecnología de generación de imágenes es un medio. Los autores construyen un personaje con síndrome de Down cuya función es activar la compasión del espectador para atenuar su juicio crítico sobre la transacción. VerificaRTVE resume los trece vídeos con personajes humanos del perfil de Martín en tres tipos de secuencia: la bronca de un falso padre que le dice que «nadie» va a comprar sus macetas, el episodio en que una falsa madre pide que se vean sus grabaciones y la escena del mercadillo en que un cliente se marcha sin comprar (18). En todos, el joven llora o se seca las lágrimas, y textos sobreimpresionados atribuyen las macetas a su trabajo (18).

El caso de Fran sigue el mismo esquema. FACUA describe a un personaje que aparece triste por no vender sus productos o como víctima de bullying, con el propósito de inducir a la compra por compasión (20). AFP añade que en algunos clips los personajes intentan vender en mercados y reciben insultos o comida lanzados por transeúntes, y que los textos de fondo emplean lenguaje despectivo hacia las personas con discapacidad (21).

Una lectura analítica de esos materiales permite distinguir tres movimientos. El primero presenta al personaje como artesano o emprendedor. El segundo introduce la victimización, mediante el reproche familiar, la burla o el rechazo del cliente. El tercero ofrece la salida redentora, la compra, que el espectador vive como un acto de reparación frente a la injusticia que acaba de ver. Esta secuencia es una reconstrucción de este trabajo a partir de los casos documentados y no una categoría de las fuentes. Cada vídeo funciona como un fragmento autónomo. La exposición repetida a varios de ellos refuerza una disposición favorable a la compra, aunque ninguna de las fuentes consultadas mide ese efecto.

3.2. Tiendas online y reclamos comerciales engañosos

La narrativa emocional dirige el tráfico hacia tiendas online. Las denuncias de FACUA identifican en los «Términos y servicio» de MimoStore y de francrafts.shop las mismas estipulaciones, lo que sugiere una plantilla común. Las tiendas declaran que no garantizan que «la apariencia o calidad de cualquier producto o servicio que usted adquiera cumpla con sus expectativas o sea igual que como se muestra o presenta en nuestras tiendas online», que las descripciones de los productos «pueden ser modificadas en cualquier momento sin previo aviso a nuestra entera discreción», que «los precios publicados no incluyen impuestos» y que «no somos responsables de cualquier retraso en el envío y la entrega» (19, 20).

AFP aporta indicios sobre la autenticidad del producto. En una de las tiendas enlazadas, las reseñas de cinco estrellas repetían el mismo texto genérico. Algunos planos de los vídeos procedían de creadores reales de cerámica, y algunas de las tiendas parecen haber copiado contenido de otras webs (21). Estos hallazgos son compatibles con un modelo de reventa de artículos de producción masiva presentados como artesanía. Las fuentes consultadas no permiten afirmar ese extremo respecto de cada tienda concreta.

La reaparición del esquema, primero con las macetas de Martín y después con los bolsos de Fran, sugiere un modelo replicable. FACUA lo señala de forma expresa: la denuncia contra Francrafts recuerda que la táctica no es aislada y remite a la presentada en julio contra MimoStore (20). Jeremy Carrasco, cofundador de la firma de investigación Riddance, interpreta el número de cuentas como indicio de que los vídeos funcionan como esquema lucrativo, y observa que las mismas cuentas intentaban vender productos idénticos con personajes sintéticos de personas mayores (21).

Las fuentes no identifican a los titulares de las tiendas. Esa identificación exige requerimientos a registradores de dominio, plataformas de comercio electrónico y pasarelas de pago, que solo las autoridades pueden dirigir. La dificultad de atribuir responsabilidad es, por tanto, un problema práctico de primer orden para la aplicación de la normativa de consumo.

3.3. Ingeniería social y amplificación algorítmica

La dimensión de ingeniería social va más allá de la narrativa. El diseño del contenido busca que la lógica de las plataformas amplifique el mensaje. Los algoritmos de recomendación priorizan los vídeos que generan interacción: comentarios, permanencia, visualizaciones completas, compartidos. Un vídeo que muestra a un joven con síndrome de Down humillado produce indignación y compasión, y ambas se traducen en comentarios y difusión. Cabe formular como hipótesis que los autores conocen esa mecánica y la explotan. Las fuentes no ofrecen datos internos de las plataformas que permitan comprobarla.

El hallazgo de AFP sobre los textos despectivos de fondo apunta en la misma dirección. Si la hostilidad que sufre el personaje es fabricada, el contenido puede generar controversia y respuestas empáticas sin que exista ningún acto real de acoso (21). La combinación de narrativa emocional, victimización fabricada y solicitud implícita de apoyo configura un sistema semiautomatizado. Los autores no gestionan cada interacción a mano. Diseñan el contenido para que la dinámica de la plataforma haga el trabajo.

3.4. La cadena de valor del fraude

El análisis de las fuentes permite reconstruir, como modelo de trabajo y no como hecho acreditado, una cadena con cuatro etapas, cada una externalizable o automatizable.

La primera etapa es la generación del contenido sintético con herramientas de IA generativa. Los verificadores han podido establecer su naturaleza artificial con detectores y con la observación de indicios (18, 21). La segunda es la creación y gestión de perfiles en TikTok, YouTube e Instagram para obtener alcance orgánico, y la repetición de la operación con personajes distintos. La tercera es la tienda online, con textos contractuales idénticos, productos presentados como artesanales y reseñas repetitivas. La cuarta es la logística y la ocultación de responsabilidad: el comprador recibe, en el mejor de los casos, un artículo de origen industrial distinto del anunciado, y las cláusulas de la tienda cierran de antemano la vía de reclamación.

Quien compra un producto «hecho a mano» por un supuesto artesano con síndrome de Down recibe, por tanto, un producto que con toda probabilidad no responde a lo prometido, en una operación cuyo responsable no identifica con facilidad.

3.5. Casos documentados

La tabla resume los dos casos españoles mejor documentados.

Elemento	Caso «Martín» (MimoStore)	Caso «Fran» (francrafts.shop)
Producto	Maceteros «hechos a mano»	Bolsos tejidos «a mano»
Alcance en TikTok	Más de 14.500 seguidores, más de 140.000 «me gusta», publicación de mayor impacto con más de 600.000 visualizaciones (18)	Más de 50.000 seguidores (20)
Verificación	VerificaRTVE, 3 de julio de 2026: Google SynthID, TruthScan y Hive (18)	Comprobación de FACUA a partir de indicios visuales y auditivos (20)
Denuncia	FACUA ante la Dirección General de Consumo, 8 de julio de 2026 (19)	FACUA ante la Dirección General de Consumo, 7 de septiembre de 2026 (20)
Situación conocida	La cuenta desapareció tras la consulta de VerificaRTVE y la tienda retiró la imagen del joven (18, 19)	Sin información sobre resolución en las fuentes consultadas

Las dos denuncias identifican las mismas estipulaciones contractuales y piden a la autoridad de consumo que abra una investigación y un expediente sancionador por cláusulas abusivas (19, 20). Las fuentes consultadas no permiten saber si la Dirección General de Consumo ha iniciado esos expedientes.

4. El marco normativo europeo y español frente al fraude con deepfakes

4.1. El Reglamento (UE) 2024/1689: artículos 5 y 50

El Reglamento (UE) 2024/1689, o Ley de IA, es el primer instrumento supranacional que regula de forma comprensiva los riesgos de los sistemas de inteligencia artificial. Su artículo 5 enumera prácticas prohibidas, aplicables desde el 2 de febrero de 2025. Las sanciones por infringirlas, que pueden alcanzar los 35 millones de euros o el 7 % del volumen de negocio mundial anual (art. 99.3), son exigibles desde agosto de 2025 (1).

El artículo 5.1.b). Prohíbe introducir en el mercado, poner en servicio o utilizar un sistema de IA que explote alguna de las vulnerabilidades de una persona o de un colectivo derivadas de su edad, de su discapacidad o de una situación social o económica específica, con la finalidad o el efecto de alterar de manera sustancial su comportamiento de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables (1). Este precepto parece, a primera vista, el más adecuado al fenómeno, y la discapacidad simulada del personaje invita a aplicarlo. La aplicación tropieza con la estructura del tipo. La vulnerabilidad explotada debe ser la de la persona o colectivo cuyo comportamiento se altera, y debe derivar de una de las tres causas que enumera la norma. El espectador que compra por compasión no es vulnerable por su edad, su discapacidad ni su situación económica. Su sensibilidad es una disposición emocional que la norma no menciona. El personaje, por su parte, no existe: no hay una persona con discapacidad cuya vulnerabilidad se explote. Este trabajo lee las tres causas como un catálogo cerrado, sin perjuicio de que las directrices de la Comisión sobre prácticas prohibidas desarrollen el alcance de cada una (7). Una interpretación que extendiera la prohibición a la sensibilidad compasiva del público afirmaría un efecto que el legislador no escribió. Las capas de vulnerabilidad que algunos autores describen, y que sí concurren en el fenómeno, importan para valorar el daño. No bastan para integrar el supuesto de hecho.

El artículo 5.1.a). Ofrece un encaje más natural. Prohíbe los sistemas de IA que se sirven de técnicas subliminales o de técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona, mermando de forma apreciable su capacidad para tomar una decisión informada y haciéndole adoptar una decisión que de otro modo no habría tomado, de un modo que provoque o sea razonablemente probable que provoque perjuicios considerables (1). Un personaje sintético que se presenta como un artesano real, con una historia de sufrimiento fabricada para inducir una compra, es una técnica engañosa en el sentido corriente de la palabra, y su finalidad es alterar la decisión económica del espectador. El obstáculo es el umbral del daño. Los «perjuicios considerables» se valoran con dificultad cuando cada comprador pierde el precio de una maceta o de un bolso. El precepto no resuelve si cabe sumar los perjuicios individuales de una pluralidad de compradores, y esa laguna interpretativa condiciona su utilidad práctica. Las directrices de la Comisión pueden orientar la respuesta, y su consulta es necesaria antes de cualquier conclusión firme (7).

Los sujetos obligados. Quienes crean estos vídeos no suelen ser proveedores de sistemas de IA. No desarrollan ni comercializan el generador. Son responsables del despliegue que lo emplea con fines comerciales, categoría que el Reglamento define por el uso bajo su propia autoridad, salvo en actividades personales de carácter no profesional (art. 3.4) (1). El artículo 5 se refiere a la «utilización» del sistema, y la amplitud del término permite incluir a esos responsables.

El artículo 50. Impone obligaciones de transparencia que se aplican desde el 2 de agosto de 2026. Los proveedores de sistemas que generan contenido sintético de audio, imagen, vídeo o texto deben asegurar que las salidas se marquen en un formato legible por máquina y sean detectables como generadas o manipuladas artificialmente (art. 50.2). Los responsables del despliegue de un sistema que genere o manipule contenido que constituya una ultrasuplantación deben hacer público que ese contenido se ha generado o manipulado de manera artificial (art. 50.4) (1). El Ómnibus digital sobre IA, adoptado en junio de 2026, no modificó estas obligaciones. Solo concedió, hasta el 2 de diciembre de 2026, un plazo adicional para el marcado del artículo 50.2 de los sistemas generativos ya comercializados antes del 2 de agosto (16). El incumplimiento de las obligaciones de transparencia se sanciona con multas de hasta 15 millones de euros o el 3 % del volumen de negocio mundial (art. 99.4) (1).

Dos precisiones limitan el alcance del artículo 50 en este fenómeno. La primera es temporal. Los vídeos de Martín son anteriores al 2 de agosto de 2026, de modo que la obligación de etiquetado no les era exigible. Los de Fran, publicados después, quedan dentro del ámbito temporal de la norma. La segunda es conceptual y deriva de la definición de ultrasuplantación que se analizó en el apartado 1.2. Si se acoge la lectura estricta, el artículo 50.4 no alcanza a un personaje que no imita a nadie en concreto. Si se acoge la amplia, la ausencia de etiquetado en los vídeos posteriores al 2 de agosto de 2026 constituye una infracción autónoma del régimen de transparencia, con independencia del fraude subyacente.

4.2. La Directiva 2005/29/CE y la Ley de Competencia Desleal

La Directiva 2005/29/CE, sobre prácticas comerciales desleales de las empresas en sus relaciones con los consumidores, es el marco general de protección frente a conductas engañosas o agresivas (4). Su aplicación al fenómeno no presenta las dificultades de tipificación del Reglamento de IA. Una práctica es engañosa cuando contiene información falsa, o cuando induce o puede inducir a error al consumidor medio sobre aspectos esenciales del producto y le lleva a adoptar una decisión que no habría tomado de otro modo (art. 6). También lo es la omisión de información sustancial (art. 7) (4). En los vídeos analizados concurren dos ocultaciones: la naturaleza sintética del personaje y la naturaleza del producto, que se presenta como fabricado a mano por quien no existe.

La Ley 3/1991, de Competencia Desleal, traspone esa regulación al ordenamiento español. Su artículo 5 considera desleal la conducta que contenga información falsa, o que aun siendo veraz induzca o pueda inducir a error al destinatario sobre aspectos como las características principales del bien, y que altere o pueda alterar su comportamiento económico. Su artículo 7 sanciona las omisiones engañosas (13). Un producto presentado como artesanal y elaborado por una persona determinada, cuando esa persona no existe y el producto es con toda probabilidad industrial, encaja en el supuesto del artículo 5 con escasa dificultad.

La condición de consumidor vulnerable del artículo 5.3 de la Directiva, que atiende a la enfermedad física o mental, la edad o la credulidad, tampoco describe bien a los destinatarios de la estafa. Son consumidores movilizados por la compasión, no un grupo vulnerable en el sentido de la norma (4). La Comisión Europea ha publicado orientaciones sobre la aplicación de la Directiva que abordan la comercialización en redes sociales y que sirven de referencia interpretativa (15). El marco de competencia desleal ofrece así, sin necesidad de reformas, una vía sólida contra los autores identificables.

4.3. La normativa española de consumo: el Real Decreto Legislativo 1/2007

El Real Decreto Legislativo 1/2007, de 16 de noviembre, que aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios (TRLGDCU), es el instrumento central de protección de los consumidores en España (3). Su artículo 82 define las cláusulas abusivas como las estipulaciones no negociadas individualmente que, en contra de las exigencias de la buena fe, causan en perjuicio del consumidor un desequilibrio importante entre los derechos y obligaciones de las partes. Las cláusulas abusivas son nulas y se tienen por no puestas (art. 83) (3).

Las denuncias de FACUA calificaron las estipulaciones de las tiendas como cláusulas abusivas por vincular el contrato a la voluntad del empresario, por limitar los derechos básicos del consumidor, por falta de reciprocidad, por afectar al perfeccionamiento y ejecución del contrato y por las condiciones sobre competencia y derecho aplicable (19, 20). Esas categorías se corresponden con los artículos 85 a 90 del TRLGDCU (3). Tres estipulaciones merecen un comentario concreto.

La reserva de facultad para modificar las descripciones de los productos sin aviso previo y a entera discreción del vendedor permite alterar el objeto del contrato después de que el consumidor haya hecho el pedido. Constituye una de las cláusulas que vinculan el contrato a la voluntad del empresario, y el artículo 85.3 declara abusiva la reserva de facultades de interpretación o modificación unilateral del contrato salvo que concurran motivos válidos especificados en él (3).

La declaración de que «los precios publicados no incluyen impuestos» infringe el artículo 60.2 del TRLGDCU, que exige informar del precio total, con impuestos, antes de la contratación (3). Así lo señala FACUA (19, 20). El precio es un elemento esencial de la información precontractual, y ocultarlo o presentarlo de forma parcial distorsiona la capacidad del consumidor para decidir.

La cláusula que exime al vendedor de «cualquier retraso en el envío y la entrega» traslada al consumidor un riesgo que la normativa de contratos a distancia asigna al empresario. El TRLGDCU regula la entrega de los bienes y la transmisión del riesgo en los artículos 66 bis y siguientes, en transposición de los artículos 18 y 20 de la Directiva 2011/83/UE sobre derechos de los consumidores (3, 5).

La potestad sancionadora corresponde a las administraciones de consumo, en su mayor parte autonómicas. FACUA acudió a la Dirección General de Consumo estatal (19, 20). La competencia territorial para sancionar a una tienda online sin domicilio claro es una cuestión de aplicación práctica que las fuentes no resuelven.

4.4. La propia imagen: la Ley Orgánica 1/1982 y el proyecto de reforma

La Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, ha sido la pieza central de la tutela civil de los derechos de la personalidad durante más de cuarenta años (6). Su aplicación a los deepfakes que simulan discapacidad plantea dificultades que el legislador de 1982 no pudo prever.

La tutela exige una persona identificable cuya imagen se haya captado, reproducido o difundido sin su consentimiento. Martín y Fran son ficticios, y un personaje inexistente carece de personalidad jurídica y no puede ser titular de ese derecho. Eso no excluye la vulneración, que puede darse respecto de las personas reales cuyas imágenes se utilicen como base o referencia para generar el rostro sintético o cuyas fotografías se manipulen. La BBC recoge la advertencia de la organización Scope de que esas imágenes de IA «no aparecen de la nada» y se construyen a partir de imágenes de personas con discapacidad reales, a menudo sin consentimiento (8). AFP documentó además la manipulación de imágenes de mujeres reales para hacerlas parecer personas con síndrome de Down (22). En esos casos concurre una intromisión ilegítima en la propia imagen de las personas afectadas.

El Consejo de Ministros aprobó el 7 de julio de 2026, en segunda vuelta, el proyecto de ley orgánica de los derechos al honor, a la intimidad personal y a la propia imagen, que sustituiría a la ley de 1982. El texto tipifica como intromisión ilegítima la utilización o difusión de la imagen o la voz de una persona que haya sido creada, simulada o manipulada tecnológicamente para dotarla de una apariencia extremadamente realista, fija en 16 años la edad para que un menor consienta el uso de su imagen y permite prohibir por testamento el uso comercial futuro de la imagen o la voz tras el fallecimiento (11). Se tramita como ley orgánica, lo que exige mayoría absoluta en el Congreso, un requisito que la prensa considera de difícil cumplimiento en la composición actual de la Cámara (11).

La reforma protege a personas reales y no cubre el personaje inventado por completo. Su utilidad frente al fenómeno analizado se limita, por tanto, a los supuestos de doble victimización que se estudian en el apartado 5.5.

4.5. El derecho penal: estafa y ultrafalsificaciones

El derecho penal vigente ofrece una vía más directa que los proyectos en tramitación. El artículo 248.1 del Código Penal castiga a quienes, con ánimo de lucro, utilicen engaño bastante para producir error en otro y le induzcan a realizar un acto de disposición en perjuicio propio o ajeno (14). La narrativa de los vídeos, que presenta a un artesano inexistente y atribuye a un producto industrial una elaboración manual, es susceptible de calificarse como engaño bastante. El obstáculo es la cuantía individual, que suele ser baja y dificulta la persecución de cada hecho. El artículo 74.2 del Código Penal, para las infracciones contra el patrimonio con pluralidad de perjudicados, permite valorar el perjuicio total causado y es la herramienta técnica adecuada para este tipo de conductas masivas (14). Las fuentes consultadas no informan de ninguna actuación penal.

El Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, cuyo anteproyecto aprobó el Consejo de Ministros el 4 de junio de 2024 y que se tramita hoy en el Congreso, incorpora al Código Penal un artículo 173 bis (12). Según el texto presentado, castiga con prisión de uno a dos años a quien, sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difunda, exhiba o ceda su imagen corporal o audio de voz generados, modificados o recreados mediante inteligencia artificial u otra tecnología, de modo que parezcan reales, simulando situaciones de contenido sexual o gravemente vejatorias. La pena es más grave si la víctima es menor o una persona con discapacidad necesitada de especial protección (12).

El precepto, tal como está redactado, se limita a los deepfakes de contenido sexual o gravemente vejatorio que afecten a una persona real. Los vídeos de las estafas no tienen contenido sexual. Aplicar el artículo 173 bis exigiría sostener que simular a una persona con síndrome de Down que llora y recibe burlas constituye una situación gravemente vejatoria para ella. La tesis es defendible desde la dignidad del colectivo, y tropieza con la exigencia de una víctima concreta. Sí resulta aplicable, en cambio, a las cuentas que difunden imágenes de personas con discapacidad en contextos sexualizados, que documentan la BBC y AFP (8, 22).

4.6. El proyecto de gobernanza de la IA en España

El Consejo de Ministros aprobó el 26 de mayo de 2026 el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial y lo remitió a las Cortes. El Boletín Oficial de las Cortes Generales lo publicó el 12 de junio de 2026 (10). Aún no es ley. El Reglamento (UE) 2024/1689 no designa por sí mismo a las autoridades españolas. Corresponde a cada Estado miembro designar a sus autoridades nacionales competentes (art. 70) (1). La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) existe desde el Real Decreto 729/2023, de 22 de agosto, y el proyecto la configura como autoridad principal de vigilancia del mercado, junto con la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial en sus ámbitos respectivos (10, 17).

La aplicación del régimen sancionador a los autores de estas estafas plantea una cuestión de encaje. Los autores no son, en la mayoría de los casos, proveedores de sistemas de IA, y responden como responsables del despliegue que utiliza el sistema con fines fraudulentos. La conducta prohibida por el artículo 5 del Reglamento corresponde a la autoridad de vigilancia del mercado. El fraude subyacente corresponde al derecho de consumo, a la competencia desleal y al derecho penal. Esa división de ámbitos genera un problema de coordinación que los textos vigentes no resuelven, y que se retoma en el apartado 8.4.

5. Dimensión de derechos humanos: explotación de la vulnerabilidad y dignidad de las personas con discapacidad

5.1. La discapacidad como eje de la tutela del legislador europeo

El Reglamento (UE) 2024/1689 incluye la discapacidad entre las tres causas de vulnerabilidad que activan la prohibición del artículo 5.1.b), junto con la edad y la situación social o económica específica (1). La inclusión no es accidental. Refleja una tradición normativa que sitúa la dignidad y la no discriminación entre los valores centrales del Derecho de la Unión. La Carta de los Derechos Fundamentales proclama la dignidad humana (art. 1), prohíbe la discriminación por discapacidad (art. 21) y reconoce el derecho de las personas con discapacidad a beneficiarse de medidas que garanticen su autonomía e inclusión (art. 26) (25). La Convención de las Naciones Unidas sobre los derechos de las personas con discapacidad, ratificada por la Unión y por España, obliga a los Estados a combatir los estereotipos, los prejuicios y las prácticas nocivas respecto de estas personas (art. 8) (24).

Como se razonó en el apartado 4.1, el artículo 5.1.b) no describe con exactitud el supuesto de hecho de estas estafas, porque la vulnerabilidad que se instrumentaliza es una representación y no la de un sujeto real. El marco de derechos humanos permite, sin embargo, calificar el daño con más amplitud que el derecho de consumo. La instrumentalización de la discapacidad como gancho comercial afecta a la dignidad del colectivo, aunque el personaje sea ficticio y aunque ninguna persona con discapacidad concreta haya sido engañada. La vulnerabilidad relevante es relacional. Reside en la conexión entre el contenido, el espectador y un contexto social en el que la discapacidad se percibe como una condición que genera dependencia y merece protección paternalista. Los autores explotan ese contexto, y el daño recae sobre quienes lo padecen en la vida real.

5.2. El impacto en la representación social del síndrome de Down

El daño no se agota en la defraudación económica. Existe una dimensión simbólica que afecta a la dignidad y a la posición social de las personas con síndrome de Down. Nathan Rowe, de Down Syndrome International, explica que los vídeos se aprovechan de quienes tienen una visión algo compasiva y algo paternalista de la condición (21). Explotar esa mirada es el mecanismo central del fraude. Los autores saben que mostrar a una persona con síndrome de Down en sufrimiento activa una respuesta empática que reduce el juicio crítico. La discapacidad se convierte en un dispositivo de ingeniería social.

El impacto opera en dos direcciones. La primera es el refuerzo del estereotipo de la persona con discapacidad como sujeto dependiente y necesitado de protección. Rowe advierte de que estos vídeos refuerzan la idea de que las personas con síndrome de Down no pueden valerse por sí mismas y de que, para que su trabajo exista, debe ser una IA quien lo simule (21). La paradoja es perversa. Se usa la imagen de una persona con síndrome de Down para simular una capacidad emprendedora que el estereotipo niega a las personas reales con esa condición.

La segunda dirección es el desplazamiento de los emprendedores reales. Down Syndrome International señala que existen muchas personas con síndrome de Down con talento que crean y venden productos, y que el contenido sintético compite por la misma atención y puede desviar negocio hacia estafadores (21). El fenómeno añade una apropiación doble: de los productos y diseños de creadores reales, que AFP encontró reutilizados en los vídeos, y de la condición de discapacidad como significante emocional (21).

Kamran Mallick, consejero delegado de Disability Rights UK, ha calificado de «nada menos que horrible» la aparición de cuentas que fetichizan, ridiculizan o monetizan las identidades de las personas con discapacidad. Su diagnóstico es: «tecnología convertida en arma para despojar a las personas con discapacidad de su agencia y de su dignidad, y para transformar nuestras experiencias vividas en caricaturas digitales en beneficio y para el morbo de otros» (8, traducción propia). Aunque su declaración se refiere sobre todo a los perfiles sexualizados que investigó la BBC, el mecanismo que describe, la caricatura digital como mercancía, se reproduce en el fraude comercial.

5.3. La instrumentalización de la discapacidad como gancho comercial

La instrumentalización comercial es una modalidad específica de explotación. No se limita a usar la imagen de una persona con discapacidad sin consentimiento, lo que ya sería una intromisión ilegítima. Construye una identidad ficticia de discapacidad con la única finalidad de provocar una respuesta emocional que induzca al consumo. La discapacidad no es un dato accesorio del personaje. Es su atributo definitorio y la razón de su existencia digital.

Mallick ha establecido una analogía histórica reveladora. Las imágenes sexualizadas que analiza AFP constituyen, a su juicio, «explotación» y recuerdan a «los espectáculos de fenómenos de antaño, en los que se exhibía a personas para diversión de otros» (22, traducción propia). La comparación vale también para el fraude comercial. En ambos casos la discapacidad se convierte en espectáculo cuyo valor reside en su capacidad de provocar una reacción: compasión, curiosidad, morbo. La diferencia es que en el siglo XXI el espectáculo ya no requiere la presencia de la persona exhibida. La IA fabrica un sustituto que se puede explotar con fines comerciales sin que exista un sujeto real que pueda negarse o reclamar.

Alison Kerry, responsable de comunicación de la organización Scope, describió esta práctica ante la BBC como «discriminación disfrazada de contenido». Añadió que las imágenes «no aparecen de la nada» y se construyen a partir de imágenes de personas con discapacidad reales, a menudo sin su consentimiento, mientras que los hilos de comentarios sin moderar potencian la cosificación y el acoso (8, traducción propia). La instrumentalización se asienta, por tanto, en una doble apropiación: la de las imágenes de personas reales y la de la condición como símbolo.

5.4. La voz de las organizaciones de la sociedad civil

Las organizaciones que representan a las personas con síndrome de Down y a las personas con discapacidad han visibilizado el fenómeno y han exigido responsabilidades. Sus posiciones aportan el marco de interpretación desde los derechos humanos que adopta este trabajo.

Down España rechazó el uso de «la falsa caridad como estrategia de venta o marketing» y recomendó no hacer donaciones ni compras sin garantías mínimas de fiabilidad y transparencia. Su director gerente, Agustín Matía, advirtió de que ayudar a organizaciones de falsa solidaridad hace más daño que beneficio a una sociedad que quiere optar por la justicia y la inclusión (18).

Down Syndrome International presentó quejas a Meta por deepfakes sexualizados de personas con síndrome de Down, lo que condujo a la retirada de numerosos vídeos. Su director de programas pide a las plataformas una actuación más proactiva para impedir la difusión de este contenido (21).

La Asociación Británica del Síndrome de Down calificó el fenómeno de «tendencia alarmante». Declaró a AFP que «es una estafa y no solo es de mal gusto, sino potencialmente ofensiva y hiriente para las personas con síndrome de Down» (22, traducción propia).

Disability Rights UK y Scope han formulado las posiciones más contundentes, que se recogieron en los apartados anteriores (8, 22).

La Comisión de Igualdad y Derechos Humanos del Reino Unido calificó de «profundamente inquietantes» las cuentas que le señaló la BBC y declaró que «es vital que existan poderes regulatorios sólidos en el espacio digital para proteger a las personas de daños». Ofcom respondió que sigue «cómo evoluciona la IA, los riesgos que pueden surgir y qué acciones pueden ser necesarias para abordarlos». Recordó que la Online Safety Act exige a plataformas como Instagram aplicar sus términos de servicio de forma coherente, también cuando el contenido se burla de personas por características protegidas como la discapacidad (8, traducción propia). Son declaraciones sobre el contexto británico y no respuestas vinculantes. Reflejan, sin embargo, una conciencia creciente de que el marco regulatorio puede ser insuficiente frente a un fenómeno que combina generación sintética, explotación de la vulnerabilidad y monetización por plataformas.

5.5. La doble victimización

El análisis de derechos humanos debe atender a una dimensión que permanece a menudo invisible: las personas reales cuyas imágenes se utilizan sin consentimiento. No son daños colaterales. Son víctimas directas de una intromisión ilegítima en su derecho a la propia imagen y, en los casos más graves, a su dignidad.

AFP documentó que algunos titulares de cuentas emplean IA para manipular imágenes de mujeres reales sin discapacidad y hacerlas parecer personas con síndrome de Down. Un vídeo de TikTok de una joven bailando en pantalón corto acumulaba cuatro millones de visualizaciones (22). La BBC identificó decenas de perfiles que muestran imágenes generadas de mujeres con discapacidad en posturas sexualizadas, algunos con cientos de miles de seguidores ganados en pocos meses (8). Las fuentes no permiten saber cuántas de esas imágenes derivan de fotografías de personas concretas. Sí permiten sostener que el fraude comercial y la sexualización comparten una técnica y una lógica: tomar la imagen de las personas con discapacidad, o su apariencia, como materia prima.

La asimetría de la economía política del fenómeno es clara. Los beneficios se concentran en los autores. Los costes (humillación, pérdida de control de la propia imagen, estigmatización) se reparten entre las personas cuyas imágenes se toman y el colectivo al que se atribuye la discapacidad simulada. La IA multiplica la explotación, porque permite generar numerosos perfiles a partir de pocas imágenes, y las víctimas carecen de mecanismos efectivos de reparación.

6. La responsabilidad de las plataformas digitales

6.1. TikTok, Instagram, YouTube y Meta

Las plataformas que albergan estos contenidos no son canales pasivos. Su arquitectura algorítmica, sus políticas de moderación y sus modelos de negocio condicionan la escala, la persistencia y la viralidad de lo que circula. Las fuentes documentan presencia de las cuentas en TikTok, YouTube e Instagram (21).

TikTok alojó el perfil de Martín y los de otros personajes similares. VerificaRTVE preguntó a la plataforma por la cuenta el 2 de julio de 2026. El perfil desapareció horas después, y la plataforma no respondió a la consulta a la fecha de publicación del reportaje (18). Las normas comunitarias de TikTok prohíben, según AFP, la actividad engañosa o manipuladora y la discriminación. Las de YouTube contienen reglas similares contra el spam engañoso. Meta prohíbe en sus políticas la suplantación de identidad con fines fraudulentos y el spam (21).

Instagram, propiedad de Meta, ofrece un perfil de riesgo distinto. La BBC señaló a la compañía decenas de perfiles con imágenes generadas de mujeres con discapacidades, entre ellas síndrome de Down y vitíligo, en posiciones sexualizadas. Meta respondió que investigaba los contenidos y que elimina el material que promueve la explotación sexual o ataca a personas por características protegidas (8). Esa respuesta se produjo después de la consulta periodística. Plantea la pregunta de si la detección dependió de la presión externa y no de los controles propios de la plataforma.

6.2. Políticas de contenido y su aplicación

Las políticas de las plataformas prohíben, en términos generales, la suplantación, el contenido engañoso y la explotación de colectivos vulnerables. La aplicación efectiva presenta lagunas que la investigación periodística ha documentado. De los catorce vídeos del perfil de Martín, once carecían de cualquier aviso de contenido artificial (18). AFP observó que muchos de los vídeos examinados ya no estaban en línea, mientras que otras cuentas seguían difundiendo clips similares (21).

La investigadora Amy Gaeta, de la Universidad de Cambridge, afirmó ante la BBC que la moderación de plataformas como Instagram no es lo bastante sólida y que, incluso cuando existen salvaguardas, se demostró bastante fácil eludirlas si alguien insiste lo suficiente. Concluyó que las grandes tecnológicas deben rendir cuentas en la misma medida en que deben combatirse la misoginia y el capacitismo (8, traducción propia). La tensión entre autorregulación y exigibilidad se manifiesta en la distancia entre las políticas proclamadas y su aplicación.

6.3. El etiquetado de contenido generado por IA

El artículo 50 del Reglamento (UE) 2024/1689 se aplica desde el 2 de agosto de 2026 y distingue entre las obligaciones de los proveedores y las de los responsables del despliegue (1). Los proveedores deben garantizar que el contenido sintético se marque en formato legible por máquina. Los responsables del despliegue, categoría en la que encajan los autores de los vídeos aquí analizados, deben revelar mediante etiquetas claras que el contenido es una ultrasuplantación, siempre que el contenido encaje en esa definición, como se analizó en los apartados 1.2 y 4.1.

Las principales plataformas exigen a los creadores declarar el contenido realista generado con IA y han incorporado etiquetas automáticas y credenciales de contenido basadas en el estándar C2PA. Esos sistemas tienen dos debilidades de partida. Dependen de la declaración del creador, que es quien tiene interés en ocultar la naturaleza del contenido, y las marcas técnicas pueden perderse cuando el vídeo se descarga, se edita o se reexporta a otra plataforma.

El caso de Martín muestra el límite. De catorce vídeos, once carecían de aviso y tres indicaban que podían contener contenido creado con IA (18). La obligación de etiquetado funciona, en la práctica, como un deber formal cuya infracción puede sancionarse y no como un mecanismo preventivo. Su eficacia depende de que las autoridades de vigilancia del mercado la hagan cumplir y de que las plataformas desplieguen detección automática más allá de la declaración del usuario.

6.4. Libertad de expresión y protección de derechos

La regulación del contenido generado por IA en las plataformas enfrenta la libertad de expresión, protegida por el artículo 11 de la Carta y por el artículo 20 de la Constitución, con la dignidad, la propia imagen y la protección de los consumidores. La doctrina advierte con razón de que ampliar el poder de moderación de las plataformas genera riesgos para la circulación legítima de contenidos. La pregunta es si cabe prohibir los deepfakes que simulan discapacidad con fines fraudulentos sin afectar a expresiones legítimas como la sátira, la crítica política o la representación artística de la discapacidad.

Los artículos 5.1.a) y 5.1.b) del Reglamento de IA ofrecen una respuesta, porque limitan la prohibición a los sistemas cuyo objetivo o efecto sea alterar de manera sustancial el comportamiento causando perjuicios considerables (1). La exigencia de un perjuicio considerable excluye del ámbito de la prohibición las representaciones que, aunque simulen una discapacidad, no persigan ni produzcan un daño relevante. En el fenómeno analizado el perjuicio se manifiesta en el patrimonio del consumidor y en la dignidad del colectivo, y la acción se dirige a inducir una compra mediante engaño. Esa combinación justifica la intervención sin que suponga una restricción desproporcionada de la libertad de expresión.

El Reglamento (UE) 2022/2065, de Servicios Digitales, regula la responsabilidad de las plataformas (9). Los prestadores de alojamiento de datos no responden por el contenido ilícito si carecen de conocimiento efectivo de su ilicitud y actúan con diligencia para retirarlo una vez lo tienen (art. 6). Las plataformas deben ofrecer mecanismos de notificación y acción accesibles y de uso sencillo (art. 16). El sistema traslada a usuarios y autoridades la carga de señalar el contenido ilícito, una carga que al consumidor medio le cuesta asumir cuando no distingue un vídeo sintético de uno real. Las plataformas de muy gran tamaño, entre las que se encuentran TikTok, Instagram y YouTube, están obligadas además a evaluar y mitigar los riesgos sistémicos de sus servicios (arts. 34 y 35), y entre las medidas de mitigación el Reglamento menciona la señalización destacada del contenido generado o manipulado que se asemeje notablemente a personas y pueda inducir a error sobre su autenticidad (art. 35.1.k) (9).

7. Consecuencias prácticas y riesgos

7.1. Consecuencias para los consumidores

La consecuencia más inmediata es el perjuicio económico de quienes compran en las tiendas vinculadas a los perfiles. Quien cree adquirir una pieza artesanal elaborada por una persona con síndrome de Down, y paga un precio superior al de mercado por esa supuesta autoría, recibe en el mejor de los casos un producto industrial. Las pistas que aporta AFP (reutilización de planos de creadores reales, copia de contenido de otras webs, reseñas repetidas) apuntan a que lo anunciado no se corresponde con lo entregado (21).

El diseño contractual de las tiendas dificulta la reclamación. Las cláusulas que niegan toda garantía sobre la apariencia o la calidad, permiten cambiar las descripciones sin aviso, excluyen los impuestos del precio y descargan la responsabilidad del transporte están redactadas para que cualquier queja parezca inviable (19, 20). Son nulas de pleno derecho si se declaran abusivas, pero el consumidor que acude a un juzgado por una compra de poca cuantía rara vez compensa el coste del procedimiento.

La asimetría informativa agrava el daño. El consumidor no puede verificar la autenticidad del personaje, ni el origen real del producto, ni la identidad del vendedor. Decide, además, bajo una activación emocional deliberada. El fraude no consiste solo en entregar un producto distinto del anunciado. Consiste en inducir la contratación mediante la construcción de una realidad ficticia.

7.2. Consecuencias para las personas con síndrome de Down y sus familias

Las consecuencias para el colectivo operan en un plano simbólico que trasciende el perjuicio económico y que ya se analizó en el apartado 5.2. Cabe añadir tres efectos prácticos.

El primero es la desconfianza hacia las personas reales. Quien ha visto a un supuesto artesano con síndrome de Down desenmascarado como una invención puede tratar con recelo a una persona real que muestra su trabajo en redes. El segundo es la presión sobre las familias y las entidades del sector, que deben dedicar recursos a desmentir, advertir y proteger la credibilidad de iniciativas legítimas. Down España ya recomienda no hacer donaciones ni compras sin garantías de fiabilidad (18). El tercero es la sensación de pérdida de control sobre la propia representación. Las organizaciones señalan que las personas con discapacidad ven cómo su imagen, sus historias y su apariencia pasan a ser materia prima de terceros (8, 21).

7.3. Consecuencias para el ecosistema digital

Las estafas producen un daño sistémico. La proliferación de contenido sintético fraudulento erosiona la confianza de los usuarios en lo que ven y genera un escepticismo que alcanza también a contenidos legítimos. Cabe plantear como hipótesis que la habituación a un género reconocible de contenido que simula vulnerabilidad y pide compasión reduzca la capacidad de respuesta del público ante causas verdaderas. Las fuentes no miden ese efecto, y su verificación requeriría estudios de percepción que hoy no existen.

7.4. Riesgos de escalada

El análisis de las fuentes permite identificar tres vectores de escalada.

El primero es la sofisticación técnica. Los indicios visuales que hoy permiten detectar estos vídeos tienden a desaparecer a medida que los modelos generativos mejoran. La capacidad de detección de un espectador no prevenido, ya limitada, seguirá disminuyendo.

El segundo es la expansión a otros colectivos. AFP señala que las mismas cuentas intentaban vender productos idénticos con personajes sintéticos de personas mayores y describe un patrón más amplio de clips que buscan ventas con empatía hacia personas con discapacidad o consideradas desfavorecidas (21). La BBC y AFP documentan la sexualización de otras condiciones, como el vitíligo, el albinismo o los hermanos siameses (8, 22). La lógica del fraude es replicable: identificar un colectivo cuya representación suscite una respuesta emocional intensa y construir un personaje sintético que la explote.

El tercero es la integración con otras modalidades de fraude. La confianza que genera el personaje puede servir para vender, y también, como hipótesis, para solicitar donaciones, captar datos personales o redirigir a páginas de phishing. Las fuentes consultadas no documentan casos de ese tipo en el fenómeno analizado.

7.5. Riesgos regulatorios

El marco normativo presenta lagunas y fragmentaciones que constituyen riesgos.

La primera es la incertidumbre sobre el encaje del personaje ficticio en el concepto de ultrasuplantación. El Reglamento (UE) 2024/1689 define el deepfake en su artículo 3.60, pero su texto no resuelve si un personaje que no imita a nadie en concreto está cubierto. El proyecto de reforma de la Ley Orgánica 1/1982 tutela la imagen y la voz de personas reales, y la Ley de IA se centra en la transparencia y en la prohibición de prácticas, sin abordar el fraude comercial. La fragmentación dificulta aplicar las normas con coherencia.

La segunda es la ausencia de un régimen específico para los autores de deepfakes fraudulentos que no son proveedores de sistemas de IA. El Reglamento se dirige a proveedores y responsables del despliegue. Sancionar el fraude corresponde al derecho de consumo, a la competencia desleal y al derecho penal, y la coordinación entre estos regímenes y el de gobernanza de la IA no está resuelta.

La tercera es la aplicación extraterritorial. Las tiendas pueden estar registradas fuera de la Unión, y las plataformas que difunden los contenidos tienen alcance global. Aplicar las normas europeas a operadores que actúan desde otros territorios es un desafío práctico de primer orden.

La cuarta es la falta de datos. Ningún estudio de los consultados evalúa el efecto de las denuncias, de las quejas ante las plataformas o de las políticas de moderación sobre la reducción del fenómeno. Sin datos sobre la evolución del número de cuentas, la tasa de eliminación y la reincidencia, evaluar la política pública es imposible.

8. Detección, prevención y respuesta

8.1. Indicadores de detección

El consumidor carece de los conocimientos y de las herramientas que permitirían una verificación fiable. Los verificadores han identificado, sin embargo, indicios que, sin ofrecer certeza, ayudan a un observador atento. FACUA enumera movimientos faciales extraños o poco naturales, parpadeos irregulares, labios desincronizados con la voz, voz demasiado limpia o artificial, entonación monótona, respiraciones poco naturales y cortes o transiciones extrañas en el habla (19, 20). AFP añadió la reutilización de fondos idénticos en clips que protagonizan figuras distintas (21).

Esos indicios tienen límites claros. El contenido llega en vídeos cortos, en pantallas de teléfono y en contextos de desplazamiento rápido, y la decisión de compra se toma en segundos. Nadie examina la sincronización de los labios mientras decide si compra. Los indicios, además, cambian a medida que mejoran los modelos. Las señales más sólidas son contextuales: un perfil que insiste en el sufrimiento del protagonista, una tienda con textos contractuales genéricos y un producto que se encuentra idéntico en otros sitios.

8.2. Herramientas técnicas de verificación y sus límites

Los verificadores emplean detectores de contenido sintético, como Google SynthID, TruthScan y Hive, y herramientas de búsqueda inversa de imágenes (18, 21). Los resultados de estos detectores son probabilísticos. Deben leerse como una señal, y la convergencia de varias herramientas y de la comprobación contextual refuerza la conclusión.

La literatura técnica advierte de que el rendimiento publicado de los detectores en condiciones de laboratorio sobreestima el rendimiento en contenido real, y de que baja ante generadores no vistos durante el entrenamiento (23). El problema es más grave para el vídeo, que es el formato dominante en este fenómeno. Un resultado negativo de un detector no acredita que el contenido sea auténtico, y un positivo no basta como prueba procesal. Cualquier uso probatorio exige un peritaje.

8.3. Autoridades de consumo y organizaciones de la sociedad civil

La respuesta institucional ha sido fragmentaria y reactiva, y se articula en torno a tres actores.

Las asociaciones de consumidores han documentado y denunciado los casos. Las denuncias de FACUA son los primeros actos formales de exigencia de responsabilidad que constan en España, y piden a la Dirección General de Consumo que abra una investigación y un expediente sancionador por cláusulas abusivas (19, 20). Las fuentes consultadas no permiten saber si esos expedientes se han iniciado ni si se han impuesto sanciones. La denuncia sobre MimoStore, de julio, no ha producido, hasta donde consta, un resultado público conocido.

Las organizaciones de personas con discapacidad han formulado quejas a las plataformas, que condujeron a retiradas de contenido, y reclaman cambios sistémicos de moderación. Sus posiciones se recogieron en el apartado 5.4.

Los reguladores y las plataformas han reaccionado, según las fuentes, tras la presión periodística: la retirada del perfil de Martín y la investigación de Meta se produjeron tras las consultas de VerificaRTVE y de la BBC (8, 18). Esa secuencia indica que la respuesta depende de la visibilidad mediática del caso.

8.4. Propuestas de actuación

Una respuesta eficaz exige actuar sobre cinco frentes.

Alfabetización digital y mediática. Educar al consumidor es una línea de defensa imprescindible, aunque insuficiente. La alfabetización no puede limitarse a enseñar a detectar indicios visuales, frágiles y cambiantes. Debe explicar la lógica del fraude emocional y fomentar hábitos de verificación antes de comprar: buscar la identidad y el domicilio del vendedor, comprobar si la tienda existe fuera de la red social, desconfiar de reseñas repetidas y de precios sin impuestos y, en caso de duda, no comprar. Quien ya ha comprado dispone del derecho de desistimiento de catorce días naturales en los contratos a distancia y puede reclamar ante la administración de consumo (3, 5).

Transparencia y etiquetado. El artículo 50 del Reglamento (UE) 2024/1689 exige revelar que el contenido es una ultrasuplantación mediante etiquetas claras (1). Las autoridades de vigilancia del mercado deben hacer cumplir esa obligación y las plataformas, desplegar detección más allá de la declaración voluntaria del creador. La mayor utilidad práctica del etiquetado sería evitar que un personaje sintético se presente como una persona real que vende su trabajo.

Mecanismos de denuncia y retirada. Los canales de notificación deben ser accesibles y rápidos, como exige el Reglamento de Servicios Digitales (art. 16) (9). Han de contemplar que la víctima puede ser el consumidor defraudado, la persona cuya imagen se tomó sin consentimiento o, de forma más difusa, el colectivo al que se atribuye la discapacidad simulada.

Coordinación regulatoria. La respuesta exige coordinar a las autoridades de consumo, a la AESIA, a las de protección de datos y a los organismos de igualdad. Las denuncias llegan hoy a la Dirección General de Consumo, pero un eventual incumplimiento del artículo 5 o del artículo 50 del Reglamento de IA correspondería a la autoridad de vigilancia del mercado que designe la ley nacional. Falta un protocolo que permita a las autoridades de consumo trasladar a la AESIA los indicios de infracción del Reglamento de IA, y viceversa (10).

Evaluación empírica. La ausencia de datos sobre el número de cuentas, la tasa de eliminación, la reincidencia y el impacto de las campañas de alfabetización limita el diseño de políticas basadas en evidencia. Un observatorio público, o un deber de reporte de las plataformas de muy gran tamaño en el marco del Reglamento de Servicios Digitales, permitiría medir la magnitud del fenómeno y evaluar las respuestas (9).

9. Conclusiones

9.1. Síntesis de hallazgos

Primera: el fenómeno está documentado, es transnacional y presenta patrones de repetición. VerificaRTVE y FACUA han comprobado dos casos españoles, AFP ha identificado clips similares en varias plataformas e idiomas, y la BBC y AFP han documentado un fenómeno paralelo de sexualización (8, 18, 20, 21, 22). No consta que se trate de casos aislados, aunque las fuentes no permiten cuantificar su magnitud.

Segunda: el elemento definitorio del fraude es la narrativa de explotación de la vulnerabilidad. Los autores construyen un personaje cuya única función es activar la compasión del espectador. La discapacidad simulada funciona como dispositivo de ingeniería social que reduce el juicio crítico del consumidor.

Tercera: el marco normativo ofrece respuestas parciales. El artículo 5.1.b) del Reglamento de IA encaja mal con el fenómeno, porque exige que se explote una vulnerabilidad derivada de la edad, la discapacidad o la situación socioeconómica del sujeto cuyo comportamiento se altera. El artículo 5.1.a), sobre técnicas deliberadamente manipuladoras o engañosas, es una vía más prometedora, aunque su umbral de perjuicio considerable plantea dudas ante pérdidas individuales pequeñas. El artículo 50 impone etiquetado desde el 2 de agosto de 2026, con una duda previa sobre el alcance del concepto de ultrasuplantación (1). Las respuestas más sólidas hoy proceden del derecho de consumo, la competencia desleal y el derecho penal: el TRLGDCU, la Ley 3/1991 y el artículo 248 del Código Penal (3, 13, 14).

Cuarta: las herramientas técnicas de detección tienen límites que condicionan toda estrategia basada solo en la verificación automatizada. La asimetría entre capacidad generativa y capacidad detectiva es estructural.

Quinta: el impacto trasciende el perjuicio económico. Las personas con síndrome de Down sufren un daño representacional, y las personas cuyas imágenes se manipulan sufren una intromisión en su propia imagen. El ecosistema digital pierde confianza.

9.2. Implicaciones normativas

Las conclusiones permiten formular recomendaciones de política pública.

Aclarar el alcance del artículo 3.60 y del artículo 50.4 del Reglamento de IA. Las directrices de la Comisión sobre transparencia deberían precisar si el contenido que presenta a una persona inexistente pero verosímil constituye una ultrasuplantación. La lectura amplia resulta coherente con la finalidad de la norma.

Despejar la duda sobre la suma de perjuicios en el artículo 5.1.a). Las autoridades deberían aclarar si cabe valorar de forma agregada el daño causado a una pluralidad de compradores a efectos del umbral de «perjuicios considerables».

Activar el derecho de consumo y la competencia desleal. Las administraciones de consumo disponen hoy de los instrumentos necesarios para sancionar a los titulares de las tiendas. La prioridad es asignar recursos y coordinar a las autoridades autonómicas y estatal.

Cerrar el protocolo de coordinación entre consumo, la AESIA y la protección de datos, en el desarrollo del proyecto de ley de gobernanza de la IA (10).

Reforzar la transparencia y la accesibilidad de los canales de denuncia de las plataformas, con especial atención a la víctima cuya imagen se tomó sin su consentimiento.

Medir el fenómeno. Sin datos sistemáticos sobre cuentas, retiradas y reincidencia, la respuesta corre el riesgo de ser reactiva y desproporcionada respecto a la escala del problema.

9.3. Limitaciones y futuras líneas de investigación

Este análisis tiene limitaciones. La primera es la ausencia de resoluciones judiciales firmes. Las fuentes documentan denuncias administrativas, quejas ante plataformas y retiradas de contenido, pero no calificaciones jurídicas de los hechos ni sanciones. Esa ausencia impide evaluar la eficacia real del marco normativo.

La segunda es la falta de acceso a datos internos de las plataformas sobre moderación: número de cuentas eliminadas, tasa de detección, tiempos de respuesta, criterios algorítmicos. La opacidad dificulta la evaluación independiente.

La tercera es el carácter incipiente de la respuesta regulatoria. El proyecto de ley de gobernanza de la IA, el de reforma de la Ley Orgánica 1/1982 y el de protección de menores en entornos digitales están en tramitación, y sus efectos no pueden evaluarse (10, 11, 12). El artículo 50 del Reglamento de IA se aplica desde hace pocas semanas.

La cuarta es la ausencia, hasta donde alcanza esta revisión, de literatura revisada por pares sobre la intersección entre deepfakes, síndrome de Down y fraude de consumo. Esa laguna es en sí misma un hallazgo.

Las líneas de investigación que se derivan son las siguientes. Estudiar el seguimiento administrativo de las denuncias de FACUA y las respuestas de las plataformas. Comparar los marcos regulatorios de España, Alemania, Italia y el Reino Unido en materia de deepfakes. Diseñar estudios experimentales sobre la eficacia de las campañas de alfabetización en la detección de este tipo de contenido. Analizar la atribución de responsabilidad civil y penal de los autores que operan a través de estructuras opacas. Medir mediante estudios de percepción el efecto de estos contenidos sobre las actitudes hacia las personas con discapacidad.

---

Bibliografía

(1) Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea, L, 2024/1689, de 12 de julio de 2024.

(2) Código Civil, Real Decreto de 24 de julio de 1889, arts. 1269 y 1270. Gaceta de Madrid, núm. 206, de 25 de julio de 1889.

(3) Real Decreto Legislativo 1/2007, de 16 de noviembre, por el que se aprueba el texto refundido de la Ley General para la Defensa de los Consumidores y Usuarios y otras leyes complementarias, arts. 60, 66 bis y siguientes, 82, 83 y 85 a 90. Boletín Oficial del Estado, núm. 287, de 30 de noviembre de 2007.

(4) Directiva 2005/29/CE del Parlamento Europeo y del Consejo, de 11 de mayo de 2005, relativa a las prácticas comerciales desleales de las empresas en sus relaciones con los consumidores en el mercado interior. Diario Oficial de la Unión Europea, L 149, de 11 de junio de 2005.

(5) Directiva 2011/83/UE del Parlamento Europeo y del Consejo, de 25 de octubre de 2011, sobre los derechos de los consumidores. Diario Oficial de la Unión Europea, L 304, de 22 de noviembre de 2011.

(6) Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. Boletín Oficial del Estado, núm. 115, de 14 de mayo de 1982.

(7) Comisión Europea. Directrices sobre las prácticas de inteligencia artificial prohibidas establecidas en el Reglamento (UE) 2024/1689. C(2025) 884 final, de 4 de febrero de 2025.

(8) BBC News. «Instagram investigating AI profiles "fetishising" disabled people». 27 de febrero de 2026. https://www.bbc.com/news/articles/c1jkzr9gel7o

(9) Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales (Reglamento de Servicios Digitales). Diario Oficial de la Unión Europea, L 277, de 27 de octubre de 2022.

(10) Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. Boletín Oficial de las Cortes Generales, Congreso de los Diputados, Serie A, núm. 97-1, de 12 de junio de 2026 (expediente 121/000096). Aprobado por el Consejo de Ministros el 26 de mayo de 2026.

(11) Proyecto de Ley Orgánica de los derechos al honor, a la intimidad personal y a la propia imagen. Aprobado en segunda vuelta por el Consejo de Ministros el 7 de julio de 2026. Cobertura: El País, «El Consejo de Ministros aprueba la nueva ley del derecho al honor que protegerá de los deepfakes», 7 de julio de 2026.

(12) Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales, en tramitación en el Congreso de los Diputados. El Consejo de Ministros aprobó el anteproyecto el 4 de junio de 2024.

(13) Ley 3/1991, de 10 de enero, de Competencia Desleal, arts. 4, 5 y 7. Boletín Oficial del Estado, núm. 10, de 11 de enero de 1991.

(14) Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal, arts. 74, 173 y 248. Boletín Oficial del Estado, núm. 281, de 24 de noviembre de 1995.

(15) Comisión Europea. Comunicación, «Orientaciones sobre la interpretación y aplicación de la Directiva 2005/29/CE del Parlamento Europeo y del Consejo relativa a las prácticas comerciales desleales». Diario Oficial de la Unión Europea, C 526, de 29 de diciembre de 2021.

(16) Reglamento (UE) 2026/1744 del Parlamento Europeo y del Consejo (Ómnibus digital sobre inteligencia artificial), por el que se modifica el Reglamento (UE) 2024/1689. Diario Oficial de la Unión Europea, de 24 de julio de 2026.

(17) Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial. Boletín Oficial del Estado, de 2 de septiembre de 2023.

(18) VerificaRTVE. «No son macetas hechas por un joven con síndrome de Down, son vídeos creados con IA». RTVE, 3 de julio de 2026. https://www.rtve.es/noticias/20260703/joven-sindrome-down-vende-macetas-ia/17142325.shtml

(19) FACUA-Consumidores en Acción. «FACUA denuncia a una web que vende macetas utilizando como gancho a un joven con síndrome de Down generado con IA». 8 de julio de 2026. https://facua.org

(20) FACUA-Consumidores en Acción. «FACUA denuncia a una web que vende bolsos utilizando como gancho a un joven con síndrome de Down generado con IA». 7 de septiembre de 2026. https://facua.org

(21) AFP Fact Check. «AI-generated videos use fake characters with Down syndrome to make sales». 18 de junio de 2026. https://factcheck.afp.com/doc.afp.com.B7F39NQ

(22) Malpas, Anna. «AI used to make "fetishised" images of disabled women». AFP, 27 de marzo de 2026.

(23) Chandra, Nuria Alina, et al. Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024. 2025.

(24) Convención sobre los derechos de las personas con discapacidad, hecha en Nueva York el 13 de diciembre de 2006, art. 8. Boletín Oficial del Estado, núm. 96, de 21 de abril de 2008.

(25) Carta de los Derechos Fundamentales de la Unión Europea, arts. 1, 11, 21 y 26. Diario Oficial de la Unión Europea, C 202, de 7 de junio de 2016.