Violencia digital, sesgos de género y gobernanza inclusiva en la era de la IA generativa

El punto de inflexión de la realidad algorítmica

Ricardo Scarpa — Firma Scarpa — Junio de 2026

Resumen Ejecutivo

El presente artículo académico analiza el estado crítico de la convergencia entre la inteligencia artificial (IA) generativa y la seguridad de las mujeres en la esfera pública, un fenómeno que ha alcanzado un «punto de inflexión» entre 2025 y 2026. La investigación, fundamentada en datos globales recientes, revela que la IA está reescribiendo la realidad cotidiana para miles de millones de personas, pero lo hace de manera defectuosa y sesgada para la población femenina (1). Los hallazgos principales indican que el 70% de las mujeres que ejercen roles públicos —incluyendo defensoras de derechos humanos, periodistas y activistas— han experimentado violencia en línea en el ejercicio de sus funciones (4).

El estudio identifica una escalada alarmante en la sofisticación tecnológica de las agresiones. Aproximadamente el 24% de las mujeres encuestadas reportaron haber sido víctimas de violencia asistida por IA (4). Entre las manifestaciones más perniciosas se encuentran la «nudificación» no consentida y la creación de deepfakes que simulan agresiones sexuales, herramientas que ahora están al alcance de perpetradores con mínima pericia técnica (3). Esta violencia digital no permanece en el vacío: el 41% de las víctimas vinculan el acoso en línea con ataques físicos, persecución o acoso offline, lo que evidencia una trayectoria letal de lo virtual a lo físico (4).

Asimismo, el análisis expone una falla estructural en el diseño de los sistemas de IA: el 44% de 133 sistemas evaluados presentan sesgos de género documentados, y un 26% combinan sesgos de género y raza (1). La respuesta institucional ha sido insuficiente; de 138 estrategias nacionales de IA analizadas, solo 24 mencionan explícitamente el género (1). Ante este panorama, el artículo propone una hoja de ruta basada en el modelo de las «3Cs» (Curar, Elaborar, Controlar) para integrar la inclusión y la supervisión humana en cada etapa del ciclo de vida de la IA, transformando la tecnología de un vector de violencia en una herramienta de equidad y protección (2).

Capítulo 1: Introducción

1.1. Síntesis de hallazgos: La IA como arquitectura de una nueva realidad

En el umbral de 2026, la inteligencia artificial generativa ha dejado de ser una promesa tecnológica para convertirse en la infraestructura invisible que moldea la percepción pública y la interacción social. No obstante, esta «reescritura de la realidad» está consolidando patrones de exclusión y violencia preexistentes (1). La investigación actual demuestra que los sesgos algorítmicos no son fallos fortuitos, sino patrones sistémicos derivados de décadas de representación desigual en los datos de entrenamiento (1).

Los datos recopilados en 119 países revelan una crisis de seguridad para las mujeres en el espacio digital (4). La violencia facilitada por la tecnología (TF VAWG, por sus siglas en inglés: Technology-Facilitated Violence Against Women and Girls) se ha intensificado mediante el uso de modelos de lenguaje extenso (large language models, LLM) que asocian sistemáticamente a las mujeres con roles domésticos y a los hombres con el liderazgo ejecutivo (1). Aproximadamente el 20% de las respuestas generadas por estos modelos ante frases iniciadas por género contienen actitudes sexistas o misóginas (1). Esta base técnica defectuosa sirve de cimiento para agresiones que buscan silenciar a las mujeres con mayor visibilidad pública, afectando su credibilidad profesional y su integridad personal (3).

1.2. Contexto global 2025-2026: El cierre de la ventana de oportunidad

El periodo comprendido entre finales de 2025 y mediados de 2026 representa una coyuntura crítica para la gobernanza digital. A medida que la IA se integra de forma masiva en la generación de contenidos y la compra de medios, las decisiones sobre quién es representado y cómo se cuentan las historias se toman a una velocidad que supera el escrutinio humano (1). Existe una advertencia clara: la ventana de oportunidad para dar forma a un futuro digital igualitario se está cerrando con rapidez (1).

La magnitud del problema se refleja en el hecho de que el 75% de las mujeres periodistas y el 72% de las defensoras de derechos humanos han sido blanco de ataques en línea (4). Este clima de misoginia en red se ve exacerbado por aplicaciones de IA generativa que permiten la creación instantánea de contenido abusivo, como la producción masiva de imágenes «nudificadas» sin consentimiento, que para enero de 2026 ya superaba los tres millones de imágenes generadas por una sola aplicación (3). La impunidad de las grandes plataformas tecnológicas (Big Tech) y la falta de supervisión humana —presente solo en el 51% de los procesos creativos de marketing que usan IA— han permitido que estos riesgos queden integrados de manera estructural en los futuros sistemas sociales y económicos (1).

1.3. Preguntas de investigación y relevancia del estudio

El presente estudio se articula en torno a tres interrogantes fundamentales que buscan desentrañar la complejidad del ecosistema algorítmico actual:

• ¿Cómo ha transformado la IA generativa la trayectoria y el impacto de la violencia contra las mujeres en la esfera pública en comparación con la era pre-IA?
• ¿De qué manera la exclusión de las mujeres en el diseño de la IA —donde representan solo el 30% de la fuerza laboral global— impacta en la proliferación de sesgos algorítmicos (1)?
• ¿Qué mecanismos de justicia reparadora y marcos de gobernanza inclusiva son necesarios para revertir el «efecto enfriamiento» (chilling effect) que obliga al 41% de las mujeres a autocensurarse en redes sociales (3)?

La relevancia de esta investigación es multidimensional. En el plano democrático, el aumento del 50% en las tasas de autocensura entre mujeres periodistas desde 2020 (del 30% al 45%) representa una amenaza directa a la libertad de expresión y a la diversidad del debate público (3). En el plano económico, la desatención a la inclusión no solo perpetúa la desigualdad, sino que ignora el imperativo comercial demostrado: las marcas que apuestan por publicidad inclusiva y libre de estereotipos logran un aumento del 16% en el valor de marca a largo plazo y una mayor lealtad del consumidor (1, 2). Por tanto, este artículo no solo documenta una crisis, sino que propone una reingeniería ética de la IA para asegurar que la tecnología sirva como motor de progreso social y no como instrumento de retroceso en los derechos humanos (1).

Capítulo 2: Marco conceptual y teórico

El despliegue masivo de la IA generativa no ocurre en un vacío social; se inserta en estructuras de poder históricamente desiguales que la tecnología tiende a replicar y amplificar. Para comprender el fenómeno de la violencia digital contra las mujeres en 2026, es imperativo establecer un marco teórico que trascienda la visión de la tecnología como herramienta neutra. Este capítulo analiza los sesgos algorítmicos como patrones sistémicos, define la violencia facilitada por la tecnología (TF VAWG) y explora la interseccionalidad como eje fundamental de la justicia algorítmica.

2.1. Sesgos algorítmicos: El «error» como patrón sistémico

Contrario a la narrativa tecnológica predominante que describe los fallos de la IA como simples glitches o errores técnicos temporales, la evidencia acumulada hasta 2026 demuestra que el sesgo es un patrón documentado y sistémico (1). Estos sistemas no fallan por azar; son el producto predecible de modelos entrenados con décadas de representación desigual de hombres y mujeres en los datos (1). Un análisis de 133 sistemas de IA reveló que el 44% demostró sesgos de género inherentes, lo que indica que casi la mitad de la infraestructura algorítmica actual opera bajo premisas discriminatorias (1, 2).

Desde una perspectiva conceptual, los modelos de lenguaje extenso (LLM) funcionan como espejos distorsionados de la realidad social. Se ha documentado que estos modelos asocian de manera consistente a las mujeres con conceptos como «hogar», «familia» e «hijos», mientras que vinculan a los hombres con «negocios», «ejecutivo» y «carrera» (1, 2). Esta arquitectura semántica tiene consecuencias materiales: cuando se solicita a un LLM completar frases que inician con el género de una persona, aproximadamente el 20% de las respuestas exhiben actitudes sexistas y misóginas, llegando incluso a retratar a las mujeres como objetos sexuales o propiedad de sus cónyuges (1).

El problema radica en que estos sesgos están siendo integrados de manera estructural en los futuros sistemas sociales y económicos a una velocidad sin precedentes (1). Dado que la IA se ha incorporado plenamente en la generación de contenidos y la compra de medios a escala, las decisiones sobre quién es visible y cómo es retratado se toman mediante algoritmos que carecen, en su mayoría, de una perspectiva de género o de una supervisión humana crítica (1). De hecho, apenas el 51% de los especialistas en marketing utilizan actualmente supervisión humana para probar creatividades generadas por IA antes de su lanzamiento (1, 2). Esta falta de control permite que la IA no solo refleje el pasado desigual, sino que lo automatice y lo proyecte hacia el futuro.

2.2. Violencia facilitada por la tecnología (TF VAWG) en la esfera pública

La violencia facilitada por la tecnología (TF VAWG) se define como cualquier acto de violencia de género cometido, asistido o agravado por el uso de tecnologías de la información y la comunicación (4). En el contexto de la IA generativa, esta violencia ha alcanzado un «punto de inflexión» debido a la sofisticación de las herramientas de creación y distribución de contenido malicioso (3). La TF VAWG no es una categoría de violencia «menor» o «virtual»; es una extensión y una intensificación de la violencia estructural contra las mujeres que tiene impactos tangibles y devastadores en el mundo físico (4).

El marco teórico de la TF VAWG identifica que estas agresiones buscan, fundamentalmente, silenciar a las mujeres y socavar su credibilidad profesional (3, 4). En la esfera pública, este fenómeno es particularmente agudo para periodistas, activistas y defensoras de derechos humanos, quienes enfrentan campañas deliberadas y coordinadas de acoso (3). La IA ha reducido drásticamente las barreras de entrada para los perpetradores: herramientas que antes requerían conocimientos técnicos avanzados, como la creación de imágenes manipuladas, ahora están al alcance de cualquier persona con un dispositivo móvil (3, 4).

Un concepto central en este marco es el «efecto enfriamiento» (chilling effect). La violencia digital actúa como un mecanismo de censura indirecta que obliga a las mujeres a retirarse de la deliberación democrática (3, 4). Los datos son alarmantes: el 41% de las mujeres encuestadas admitieron practicar la autocensura en redes sociales para evitar ataques (3). Para las mujeres periodistas, esta tasa de autocensura ha subido del 30% en 2020 al 45% en 2025, un incremento del 50% que pone en riesgo la diversidad de voces en el ecosistema informativo global (3). Además, el 41% de las víctimas reportan que la violencia iniciada en línea transitó hacia ataques físicos, acoso u hostigamiento offline, desmantelando la falsa dicotomía entre el espacio digital y el físico (4).

2.3. Interseccionalidad y justicia algorítmica: Género, raza y clase

La justicia algorítmica exige un análisis interseccional que reconozca que el daño tecnológico no se distribuye de manera uniforme. Los sesgos de la IA no se manifiestan solo a través del género, sino que se multiplican y agravan cuando se cruzan con la raza, la discapacidad, el estatus socioeconómico y la geografía (1). Estudios recientes indican que el 26% de los sistemas de IA analizados presentan sesgos combinados de género y raza, lo que significa que las mujeres pertenecientes a minorías raciales enfrentan una doble capa de exclusión algorítmica (1, 2).

Esta discriminación interseccional se observa en la representación visual y laboral. Los algoritmos de generación de imágenes tienden a asociar tonos de piel más claros con «empleos de alta remuneración», mientras que los tonos de piel más oscuros suelen ser vinculados con roles de servicios o trabajadores de comida rápida (2). Esta distorsión algorítmica refuerza estereotipos raciales y de clase que tienen un impacto directo en las oportunidades económicas (1, 2). Las mujeres fuera del sector tecnológico tienen casi el doble de probabilidades que los hombres de ocupar puestos con alto riesgo de automatización, lo que sugiere que la disrupción económica de la IA recaerá con mayor fuerza sobre las poblaciones femeninas ya marginadas (1).

La raíz de esta injusticia reside en la falta de representatividad en los espacios de toma de decisiones. Las mujeres representan solo el 30% de la fuerza laboral global en IA, lo que significa que las personas que diseñan estos sistemas no son representativas de los miles de millones de personas a quienes deben servir (1). Esta brecha de género en la industria tecnológica asegura que las experiencias vividas y las necesidades de seguridad de las mujeres, especialmente de aquellas en contextos diversos, sean ignoradas en la fase de desarrollo (1). Por tanto, la justicia algorítmica no solo requiere mejores datos, sino una reestructuración del poder dentro de las «salas de diseño» de la IA y un compromiso de los Estados por integrar provisiones de género sustantivas en sus estrategias nacionales, algo que actualmente solo cumplen 18 de los 138 países evaluados (1).

Capítulo 3: La escalada de la violencia en la esfera pública

El análisis de la violencia digital contra las mujeres en el periodo 2025-2026 exige comprender la trayectoria ascendente y la sofisticación técnica de las agresiones. Este capítulo se centra en los hallazgos de la investigación global realizada a finales de 2025, la cual documenta un «punto de inflexión» en la seguridad de las mujeres que ejercen roles de visibilidad pública. La TF VAWG no es un fenómeno estático, sino una amenaza en expansión que busca desmantelar la participación democrática femenina (4).

3.1. Magnitud del fenómeno: El 70% de las mujeres en primera línea

La magnitud de la crisis digital queda reflejada en datos que sitúan la violencia en línea como una experiencia normativa para las mujeres en la esfera pública. Según los resultados de una encuesta global que abarcó a participantes de 119 países, el 70% de las mujeres defensoras de derechos humanos, activistas y periodistas han experimentado violencia en línea de forma directa en el ejercicio de sus funciones (4). Este porcentaje evidencia que la agresión digital es una herramienta sistémica de silenciamiento que opera a escala global (4).

Al desagregar los datos por categorías profesionales, se observa que la exposición es asimétricamente alta entre quienes gestionan contenidos en plataformas digitales. Las escritoras y otras comunicadoras públicas, categoría que incluye a creadoras de contenido e influencers de derechos humanos, reportan los niveles más altos de agresión, con un 76% de incidencia (4). Las periodistas y trabajadoras de medios les siguen de cerca con un 75%, lo que representa un incremento respecto al 73% documentado en 2020 (4). Por su parte, el 72% de las activistas y defensoras de derechos humanos también han sido blanco de estos ataques (4). Estas cifras sugieren que la violencia es una respuesta deliberada y a menudo coordinada ante la presencia y el discurso de las mujeres en los espacios de debate público (3, 4).

3.2. De lo virtual a lo físico: La trayectoria del daño offline

Uno de los hallazgos más significativos del estudio es la refutación empírica de la dicotomía entre el espacio «virtual» y el «real». La violencia que comienza en el entorno digital no permanece confinada a la pantalla; tiene una alta probabilidad de transitar y materializarse en agresiones físicas (4). El 41% de las mujeres que han sufrido violencia en línea informan de una extensión directa de los ataques hacia el mundo físico, en forma de persecución, acoso offline o ataques físicos (4). Esta trayectoria convierte la violencia digital en una amenaza de seguridad personal, no solo una agresión simbólica o reputacional (3, 4).

La gravedad de esta transición se acentúa para las mujeres que ejercen funciones de alta visibilidad. Un dato especialmente alarmante es que el 17% de las víctimas refieren que la violencia digital se tradujo en ataques a sus familias, redes o personas cercanas, revelando una estrategia de presión que busca amplificar el daño y aumentar el coste personal de la participación pública (3, 4). El 14% reportan vigilancia física o acoso presencial derivado de su actividad digital (3). En conjunto, estas cifras delinean un continuum de violencia que va desde la amenaza en línea hasta el peligro físico directo, exigiendo que los marcos de seguridad y justicia traten la TF VAWG como una forma de violencia de género grave y perseguible (4).

3.3. El papel de la IA en la escalada de los riesgos de violencia

La IA generativa ha actuado como un multiplicador de fuerza para los perpetradores de violencia de género, reduciendo de manera drástica las barreras técnicas, económicas y temporales para ejecutar ataques sofisticados (3, 4). En el pasado, la creación de material difamatorio o manipulado requería habilidades técnicas avanzadas y tiempo; actualmente, las mismas operaciones pueden ejecutarse en minutos mediante aplicaciones de acceso gratuito o de bajo coste (3). Esta democratización de las herramientas de agresión ha generado un incremento exponencial en el volumen, la velocidad y la escala de los ataques (4).

La IA ha potenciado específicamente tres vectores de agresión. En primer lugar, la generación de imágenes sexuales «nudificadas» sin consentimiento, que a enero de 2026 superaba los tres millones de imágenes creadas por una sola plataforma (3). En segundo lugar, la creación de deepfakes de audio y vídeo que simulan la voz o la imagen de la víctima para producir contenido difamatorio, incluyendo simulaciones de asaltos sexuales (3). En tercer lugar, la escalada del volumen y la coordinación de campañas de acoso masivo (pile-ons), donde los algoritmos de las plataformas actúan como amplificadores involuntarios que aumentan la visibilidad del contenido de odio (4). El resultado es un ecosistema en el que la IA opera como infraestructura de la violencia, disponible las veinticuatro horas del día y resistente a los mecanismos de moderación convencional (3, 4).

Capítulo 4: Manifestaciones, impactos y justicia reparadora

4.1. Violencia de imagen: «Nudificación», deepfakes y simulación del asalto sexual

Entre todas las formas de TF VAWG habilitadas por IA, la violencia de imagen ha emergido como la más disruptiva en términos de impacto psicológico e institucional. La «nudificación» no consentida —definida como la creación de imágenes o vídeos que representan desnuda a una persona sin su consentimiento mediante técnicas generativas— y la producción de deepfakes sexuales se han convertido en armas de silenciamiento que afectan a una cuarta parte de las mujeres estudiadas (3). Aproximadamente el 24% de las encuestadas reportaron haber sido víctimas de alguna forma de violencia de imagen asistida por IA (4).

La particularidad de esta forma de violencia reside en su carácter replicable, viral e imborrable. Una imagen o vídeo creado sin consentimiento puede ser distribuido en múltiples plataformas de forma simultánea, generando daños reputacionales, profesionales y personales que se acumulan con cada nueva visualización o descarga (3, 4). Para enero de 2026, una sola aplicación de «nudificación» había generado más de tres millones de imágenes, lo que ilustra la escala industrial que ha adquirido este vector de agresión (3). El potencial de daño se amplifica cuando el contenido se dirige a mujeres en posiciones públicas cuya reputación profesional es el principal activo de su carrera (4).

4.2. El «efecto enfriamiento»: Autocensura y erosión del debate democrático

La violencia digital no es un evento aislado, sino una estrategia deliberada de silenciamiento que produce un «efecto enfriamiento» (chilling effect) sobre la participación de las mujeres en la vida pública (4). Ante la ferocidad y persistencia de los ataques, muchas mujeres se ven forzadas a retirarse de la deliberación democrática. Los datos de 2025 revelan que el 41% de las mujeres encuestadas practican la autocensura en redes sociales para evitar ser blanco de abusos (3). Este fenómeno afecta de manera desproporcionada a quienes tienen mayor visibilidad: el 50% de las escritoras y comunicadoras públicas se autocensuran en redes, y un 26% admite hacerlo incluso en su entorno laboral (3).

El impacto sobre el periodismo es particularmente devastador para la salud de las democracias. Entre 2020 y 2025, la tasa de autocensura entre las mujeres periodistas aumentó de un 30% a un 45%, lo que representa un incremento del 50% en solo cinco años (3). Esta retirada forzada de las voces femeninas del ecosistema informativo limita la diversidad de perspectivas y empobrece el debate sobre temas de interés público (3, 4). La presión constante puede llevar a la renuncia profesional, lo que no solo implica una pérdida de talento para la sociedad, sino también una situación de vulnerabilidad económica y personal para la víctima, quien se ve obligada a elegir entre su carrera y su bienestar mental (3).

4.3. Impactos en la salud mental: El costo invisible de la participación pública

La participación de las mujeres en la esfera digital conlleva hoy un «costo de entrada» en términos de salud mental que es raramente reconocido por las instituciones. La violencia en línea produce daños personales duraderos; casi una cuarta parte (24,4%) de las mujeres encuestadas han sido diagnosticadas o tratadas por ansiedad y depresión vinculadas directamente a su experiencia de acoso digital (3). Además, el 13% de las víctimas reportan haber desarrollado Trastorno de Estrés Postraumático (PTSD) (3).

La gravedad de estos impactos varía según el nivel de exposición pública. Las escritoras y comunicadoras presentan las tasas más altas de afectación, con un 39% de diagnósticos de ansiedad/depresión y un 22% de PTSD (3). Entre las activistas y defensoras de derechos humanos, las cifras son del 26% y 15% respectivamente, mientras que en el periodismo se sitúan en un 25% y 13% (3). Estos diagnósticos reflejan el trauma derivado de ataques coordinados que, en muchas ocasiones, trascienden la pantalla para convertirse en amenazas físicas o acoso offline, una trayectoria experimentada por el 41% de las mujeres (3, 4). El costo invisible de esta violencia constituye, por tanto, una barrera sistémica que afecta la capacidad de las mujeres para ejercer sus derechos y libertades en igualdad de condiciones (3).

4.4. Vías de reparación legal: Desafíos ante la impunidad de las grandes plataformas

A pesar de la creciente gravedad de los ataques, las vías de reparación legal siguen siendo insuficientes y, a menudo, revictimizantes. Aunque el 25% de las mujeres afectadas denuncian los hechos ante la policía, solo el 10% de estas denuncias logra que se presenten cargos contra los agresores (3). Esta brecha de justicia obedece a múltiples factores, entre ellos la escasa alfabetización técnica de los cuerpos policiales para investigar delitos cometidos mediante IA y la falta de cooperación de las grandes plataformas tecnológicas (Big Tech), que priorizan los algoritmos de participación por encima de la seguridad de las usuarias (3).

En el marco europeo, la Directiva (UE) 2024/1385 del Parlamento Europeo y del Consejo, de 14 de mayo de 2024, relativa a la lucha contra la violencia contra las mujeres y la violencia doméstica, tipifica expresamente la difusión no consentida de material íntimo de carácter sexual, incluidos los deepfakes generados mediante IA, como manifestación de violencia de género que los Estados miembros están obligados a perseguir penalmente (art. 7 de la Directiva 2024/1385). Asimismo, el Reglamento (UE) 2022/2065, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales [Reglamento de Servicios Digitales, en adelante, DSA], impone a las plataformas en línea de muy gran tamaño (Very Large Online Platforms, VLOP) la obligación de evaluar y mitigar los riesgos sistémicos derivados de la difusión de contenido ilegal, entre los que se incluye el material de abuso sexual (arts. 34 y 35 DSA). Sin embargo, la implementación efectiva de estos instrumentos sigue siendo heterogénea y, fuera del ámbito de la Unión Europea, la impunidad de las plataformas permanece estructuralmente consolidada.

La respuesta institucional suele estar marcada por prejuicios que minimizan la violencia digital calificándola de «virtual» o trivial. El 27% de las mujeres que buscaron ayuda reportaron renuencia o rechazo por parte de la policía para investigar sus casos (3). Más grave aún es el persistente patrón de victim-blaming o culpabilización de la víctima: el 24% de las mujeres percibieron un trato que les atribuía la responsabilidad del ataque, mediante preguntas inquisitivas sobre su comportamiento o recomendaciones de que abandonen las redes sociales o se retiren de roles públicos visibles (3). Esta práctica de externalizar la protección hacia la propia víctima no solo garantiza la impunidad de los perpetradores, sino que refuerza el objetivo final de la violencia digital: la exclusión definitiva de las mujeres de la esfera pública (3, 4).

Capítulo 5: Desmantelando el sesgo desde la industria: El Playbook 3Cs

La respuesta a la crisis de violencia digital y sesgos algorítmicos documentada en los capítulos precedentes no puede limitarse a la regulación estatal. Dado que la IA generativa está siendo integrada masivamente en el marketing, la publicidad y la creación de contenidos, la industria tecnológica y creativa tiene la responsabilidad ineludible de intervenir en el ciclo de vida de estos sistemas (1, 2). Este capítulo analiza la transición de la industria hacia soluciones proactivas, fundamentadas en un modelo de habilidades diseñado para detectar y desactivar los sesgos antes de que afecten a miles de millones de personas (2).

5.1. El imperativo comercial de la IA inclusiva

Durante años, la inclusión en la representación mediática fue tratada predominantemente como un imperativo ético o de responsabilidad social corporativa. Sin embargo, en el contexto de 2026, la evidencia demuestra que la IA inclusiva es, ante todo, un imperativo comercial (2). Las marcas que utilizan la tecnología para crear publicidad libre de estereotipos y con una representación auténtica logran resultados financieros superiores (2). Específicamente, se ha comprobado que la publicidad inclusiva genera un incremento del 3,46% en las ventas a corto plazo y un notable aumento del 16,26% en las ventas a largo plazo (1, 2).

El valor de marca también se ve fortalecido: las empresas que apuestan por la diversidad algorítmica tienen un 62% más de probabilidades de ser la primera opción del consumidor y disfrutan de un poder de fijación de precios un 54% mayor (1). Por el contrario, el uso de la IA como sustituto superficial y de bajo coste para la inclusión real conlleva riesgos reputacionales significativos (2). Si los consumidores perciben que una marca utiliza representaciones generadas por IA de manera poco auténtica, la amenaza a la identidad social del consumidor aumenta, reduciendo el sentido de pertenencia a la marca (2). En un mercado donde el 88% de las agencias ya utilizan IA generativa de alguna forma, la capacidad de conectar con audiencias diversas de manera genuina se convierte en una ventaja competitiva crítica (2).

Además de los ingresos, la lealtad del cliente se incrementa en un 15% cuando las marcas demuestran una motivación intrínseca por la diversidad (2). Por tanto, la desatención a los sesgos de género y raza —que actualmente afectan al 44% y al 26% de los sistemas de IA, respectivamente— no solo constituye una falla ética, sino una decisión comercialmente deficiente que ignora el potencial económico de una base de consumidores global y diversa (1, 2).

5.2. El modelo de acción: Curar, Elaborar y Controlar

Para enfrentar la automatización de los estereotipos, la industria ha adoptado el marco de las «3Cs», un conjunto de habilidades prácticas diseñadas para ser aplicadas en cualquier punto de la cadena de desarrollo creativo, desde el briefing inicial hasta la compra de medios (2).

1. Curar (Curate) — Datos Inclusivos. La eficacia de cualquier sistema de IA depende de la calidad de los datos con los que se entrena. El proceso de «Curar» implica reconocer que la IA no es neutral, sino que arrastra el sesgo de décadas de representación desigual (1, 2). La responsabilidad del profesional radica en seleccionar datos de referencia que reflejen una mezcla diversa de audiencias, roles y contextos (2). Esto incluye buscar activamente fuentes de datos de comunidades subrepresentadas y utilizar versiones de herramientas entrenadas con conjuntos de datos más inclusivos (2). El objetivo es que la IA no trabaje con «valores por defecto» estereotípicos —por ejemplo, asociar sistemáticamente a las mujeres con el hogar y a los hombres con el liderazgo—, sino con una visión plural de la realidad (1, 2).

2. Elaborar (Craft) — Prompts Inclusivos. La redacción de instrucciones o prompts es el punto de control más directo para los creadores de contenido. Si un atributo de diversidad no se menciona explícitamente en el prompt, la IA recurrirá a sus sesgos de entrenamiento (2). El modelo propone expandir el vocabulario descriptivo y ser específico en cuanto a roles, personalidades y contextos (2). Un prompt inclusivo debe asignar a la IA un papel claro (por ejemplo, «actúa como un experto en marketing inclusivo»), definir metas de representación con arreglo a principios de equidad y utilizar fuentes de investigación de mercado que validen la autenticidad del contenido generado (2). Esta habilidad permite transformar la inclusión de un obstáculo técnico en una fuente de creatividad algorítmica (2).

3. Controlar (Control) — El Humano al Mando. A pesar de la capacidad de generación de la IA, la decisión final debe ser siempre humana (2). El «Control» establece que los profesionales deben actuar como editores jefe, responsables de lo que se aprueba y se escala (2). Esto es crucial porque el sesgo humano puede reingresar al proceso durante la selección: lo que un editor percibe como «creíble» o «estéticamente correcto» suele estar influenciado por prejuicios inconscientes (2). El modelo exige procesos de revisión side-by-side para detectar patrones de repetición o sesgos sutiles, y la implementación de «interruptores de seguridad» (kill switches) en caso de que los sistemas generen contenidos que crucen líneas éticas o de marca (2). Actualmente, solo el 51% de los especialistas en marketing supervisan humanamente el contenido generado por IA antes de su lanzamiento, una brecha de control que debe cerrarse con urgencia (1).

5.3. Casos de aplicación y responsabilidad en el marketing y la creación de contenidos

La implementación práctica de estas estrategias ya muestra resultados tangibles en marcas líderes. Un caso emblemático es el uso de la IA para analizar narrativas publicitarias históricas con el fin de identificar patrones de exclusión (2). Iniciativas como las campañas de «Belleza Real» han utilizado el análisis algorítmico para denunciar cómo los modelos de IA borran la diversidad física y promueven una perfección digital irreal (2). Al educar al público sobre los peligros del sesgo visual, estas marcas no solo protegen su reputación, sino que lideran la conversación sobre la ética tecnológica (2).

Otro ejemplo se encuentra en las activaciones conmemorativas de grandes marcas, donde se han utilizado experiencias de IA para insertar a personas de diversas identidades en contextos históricos (2). Durante el desarrollo de estos proyectos, fue necesaria la consulta con redes de diversidad e inclusión y organizaciones de la sociedad civil para asegurar que las aplicaciones fueran seguras, respetuosas y accesibles (2). Estas aplicaciones demuestran que, cuando se usa con intención, la IA puede mejorar la accesibilidad a gran escala, generando automáticamente subtítulos precisos y texto alternativo para imágenes, lo que incrementa el compromiso de la audiencia (2).

La responsabilidad final de la industria radica en reconocer que la IA no solo refleja la cultura, sino que tiene el poder de reescribirla (1). Si las mujeres siguen representando solo el 30% de la fuerza laboral en IA, el diseño de estas herramientas continuará ignorando las necesidades de seguridad y representación de la mitad de la población (1). Por tanto, el Playbook de las 3Cs no es solo un manual técnico, sino un marco de gobernanza corporativa que exige a las empresas rendir cuentas sobre cómo sus decisiones algorítmicas impactan en los derechos humanos y en la equidad de género (1, 2). Desmantelar el sesgo desde la industria es, en última instancia, una condición necesaria para asegurar que el progreso tecnológico no se traduzca en un retroceso social (1, 3).

Capítulo 6: Gobernanza, políticas públicas y recomendaciones

La acelerada integración de la IA generativa en la estructura social y económica global ha superado la capacidad de respuesta de los marcos normativos tradicionales. A medida que nos acercamos a la mitad de la década, se hace evidente que la falta de una gobernanza con perspectiva de género no es un vacío técnico, sino un riesgo sistémico que amenaza con consolidar la desigualdad para las próximas generaciones. Este capítulo examina las deficiencias en las estrategias nacionales de IA, la exclusión crítica de las mujeres en las esferas de desarrollo tecnológico y propone un conjunto de recomendaciones multidimensionales para Estados, industria y sociedad civil.

6.1. La brecha de género en las estrategias nacionales de IA

El análisis de la respuesta política global ante la IA revela una omisión estructural preocupante. De un total de 138 países evaluados, solo 24 estrategias nacionales de IA incluyen alguna referencia explícita al género (1). Más alarmante aún es el hecho de que apenas 18 de estas estrategias incorporan provisiones sustantivas y con capacidad de respuesta en materia de género (1). Esta carencia de marcos regulatorios específicos significa que la desigualdad y los sesgos están siendo integrados de manera estructural en los sistemas del futuro, sin que existan salvaguardas legales que obliguen a los desarrolladores a mitigar estos riesgos desde la fase de diseño (1, 4).

Esta carencia resulta especialmente llamativa en el contexto europeo, donde el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, relativo a la inteligencia artificial [en adelante, RIA], ya impone obligaciones explícitas de evaluación y mitigación del sesgo para los sistemas de IA de alto riesgo, con especial atención a la no discriminación por razón de sexo (arts. 9 y 10 RIA). Sin embargo, la mera adopción del RIA no garantiza la transversalización del género en las estrategias nacionales: la aplicación efectiva requiere que los Estados miembros designen autoridades de supervisión con mandato expreso en materia de género e integren las previsiones del RIA con los marcos de igualdad preexistentes, en particular la Directiva (UE) 2024/1385 sobre violencia contra las mujeres y la violencia doméstica.

Esta brecha política tiene consecuencias directas en la seguridad y los derechos fundamentales de las mujeres. La ausencia de mandatos de género en las políticas nacionales permite que el 44% de los sistemas de IA operen con sesgos documentados sin enfrentar consecuencias legales o requisitos de auditoría obligatorios (1). La gobernanza actual de la IA se ha centrado mayoritariamente en la eficiencia económica y la soberanía tecnológica, ignorando que, sin una intervención deliberada, los algoritmos continuarán reproduciendo actitudes misóginas y sexistas en el 20% de sus respuestas relacionadas con el género (1). La ventana de oportunidad para dar forma a un futuro digital igualitario se está cerrando, y la inacción política actual condena a miles de millones de personas a interactuar con una realidad tecnológica que falla sistemáticamente a la mitad de la población (1, 2).

6.2. Inclusión laboral: Las mujeres fuera de las «salas de diseño»

La injusticia algorítmica tiene su raíz en una exclusión laboral profunda dentro de la industria tecnológica. A pesar del crecimiento exponencial del sector, las mujeres representan solo el 30% de la fuerza laboral global en inteligencia artificial (1). Esta falta de representatividad en las «salas de diseño» asegura que las personas que construyen, entrenan y supervisan los sistemas no reflejen la diversidad de los miles de millones de usuarios a quienes estos sistemas deben servir (1). La brecha de género en las disciplinas STEM (ciencia, tecnología, ingeniería y matemáticas, por sus siglas en inglés) se traduce así en una brecha de seguridad y equidad en el producto final (1, 2).

Esta disparidad laboral se ve agravada por los riesgos de la automatización. Las mujeres que trabajan fuera del sector de la IA tienen casi el doble de probabilidades que los hombres de ocupar puestos con un alto riesgo de ser automatizados (1). El impacto económico de la disrupción tecnológica no es neutral; recae con mayor fuerza en las poblaciones femeninas, y los daños se multiplican de manera interseccional cuando se consideran factores como la raza, la discapacidad y la ubicación geográfica (1). Las comunidades que ya están subrepresentadas en el mercado laboral y en los medios de comunicación enfrentan el mayor riesgo de quedar aún más rezagadas en la economía de la IA (1). Por tanto, la inclusión laboral de las mujeres no es solo una cuestión de equidad corporativa, sino una medida defensiva esencial para evitar una crisis de desigualdad económica masiva (1, 2).

6.3. Recomendaciones para Estados, industria y sociedad civil

Para revertir el punto de inflexión actual, es necesaria una acción coordinada que reconozca la naturaleza interconectada de las amenazas digitales (3, 4). Se proponen las siguientes líneas de acción:

Para los Estados:

• Regulación de las plataformas: Implementar marcos legales que obliguen a las empresas tecnológicas a prevenir el despliegue de herramientas que socaven los derechos humanos, especialmente en lo relativo a la violencia de imagen y los deepfakes (3, 4). En el ámbito de la Unión Europea, el DSA ya proporciona una base normativa que debe complementarse con mecanismos de supervisión específicos para las formas de TF VAWG habilitadas por IA.
• Justicia reparadora: Invertir en la alfabetización técnica y digital de las fuerzas de seguridad y el poder judicial para eliminar el patrón de culpabilización de la víctima y asegurar que las denuncias de violencia digital resulten en cargos efectivos (3). La Directiva 2024/1385 ofrece en este sentido un modelo de tipificación penal que los legisladores nacionales deben transponer con diligencia.
• Gobernanza inclusiva: Integrar la voz y la experiencia de mujeres diversas y organizaciones de la sociedad civil en la redacción de todas las estrategias nacionales de IA, garantizando que el género sea un eje transversal y no un apéndice (1). El Reglamento (UE) 2024/1689 (RIA) establece un marco de partida que debe ser complementado con provisiones de género vinculantes en los planes nacionales de implementación.

Para la industria:

• Supervisión humana obligatoria: Elevar el estándar de control humano en el ciclo de vida de la IA. Actualmente, solo el 51% de los especialistas en marketing supervisan las creatividades generadas por IA antes de su lanzamiento, una cifra que debe alcanzar el 100% para evitar la propagación masiva de sesgos (1).
• Adopción del modelo 3Cs: Institucionalizar las habilidades de Curar, Elaborar y Controlar en todos los niveles de producción creativa y técnica para detectar estereotipos antes de que lleguen al público (2).
• Compromiso con los derechos humanos: Adherirse formalmente a los Principios Rectores sobre las Empresas y los Derechos Humanos (Principios de Ruggie, A/HRC/17/31, 2011), integrando la seguridad de las usuarias como indicador de éxito con el mismo peso que el rendimiento algorítmico (3).

Para la sociedad civil y la academia:

• Coaliciones interdisciplinarias: Fomentar el co-diseño de intervenciones que unan la tecnología de código abierto, la defensa legal y el apoyo psicosocial para las víctimas de TF VAWG (3).
• Monitoreo y auditoría: Desarrollar herramientas independientes para monitorear el sesgo algorítmico y denunciar públicamente a las plataformas que actúen como vectores de odio y desinformación de género (3, 4).

En última instancia, el éxito de la IA para lograr resultados equitativos depende de si se incorpora la experiencia de las mujeres en cada etapa del desarrollo tecnológico (2). No se trata solo de mejorar el código, sino de transformar la voluntad política y corporativa para asegurar que la inteligencia artificial sea una fuerza al servicio de la justicia social y no un instrumento de exclusión (1, 3).

Capítulo 7: Conclusiones y Referencias

El análisis exhaustivo presentado en este artículo confirma que nos encontramos ante un «punto de inflexión» crítico en la intersección de la tecnología, los derechos humanos y la igualdad de género. La IA generativa, lejos de ser una herramienta de democratización neutra, actúa como catalizador que acelera y sofistica las formas preexistentes de exclusión y violencia contra las mujeres en la esfera pública (1, 4). Este capítulo final sintetiza los hallazgos fundamentales del estudio y propone una hoja de ruta estratégica hacia 2030 para asegurar que la «reescritura de la realidad» por parte de la IA no signifique el borrado de los derechos de las mujeres (1).

7.1. Síntesis y hoja de ruta hacia 2030

Síntesis de la crisis algorítmica

La investigación ha demostrado que la IA está fallando sistemáticamente a las mujeres en tres frentes interconectados: el diseño, la seguridad y la participación económica. En primer lugar, la arquitectura misma de la IA es defectuosa; el 44% de los sistemas presentan sesgos de género documentados que asocian a las mujeres con roles domésticos y a los hombres con el liderazgo (1). Esta base técnica sesgada alimenta una segunda crisis: la escalada de la TF VAWG. El 70% de las mujeres en la esfera pública han experimentado violencia en línea, y un 41% de estos casos trascienden al mundo físico en forma de ataques y acoso offline (4). La IA ha potenciado esta amenaza de forma exponencial mediante la creación masiva de deepfakes y contenido «nudificado» sin consentimiento, afectando ya a una cuarta parte de las mujeres en roles visibles (3, 4).

En tercer lugar, el impacto de estas tecnologías ha provocado un retroceso democrático sin precedentes. El «efecto enfriamiento» ha llevado a un incremento del 50% en las tasas de autocensura entre periodistas desde 2020, obligando al 45% de ellas a silenciarse para proteger su integridad (3). Este fenómeno, sumado a que las mujeres representan solo el 30% de la fuerza laboral en IA, crea un círculo vicioso de exclusión: las mujeres son desplazadas de las «salas de diseño» y de la deliberación pública, mientras que los sistemas resultantes continúan ignorando sus necesidades de seguridad (1).

Hoja de ruta hacia 2030: Hacia una justicia algorítmica

Para revertir esta trayectoria antes de que el cierre de la ventana de oportunidad sea definitivo, se propone una hoja de ruta articulada en tres pilares:

• Gobernanza y responsabilidad estatal (2025-2027). Los Estados deben transformar sus estrategias nacionales de IA. Es imperativo que el género deje de ser una mención marginal —como ocurre en la actualidad, donde solo 18 de 138 países tienen provisiones sustantivas— para convertirse en un eje transversal y vinculante (1). Esto incluye la creación de marcos legales que impongan la «seguridad por diseño» y obliguen a las empresas tecnológicas a auditar sus sistemas contra sesgos de género y raza antes de su despliegue comercial (1, 2). En el contexto europeo, el Reglamento (UE) 2024/1689 (RIA) y la Directiva 2024/1385 constituyen la arquitectura normativa de partida; su implementación efectiva y la dotación de recursos adecuados a las autoridades de supervisión son condiciones sine qua non para su eficacia. La impunidad de las plataformas debe terminar mediante una justicia reparadora que dote a la policía y los jueces de herramientas técnicas para perseguir el abuso de imagen asistido por IA (3).

• Transformación sistémica de la industria (2026-2028). La industria creativa y tecnológica debe adoptar masivamente el modelo de las «3Cs» (Curar, Elaborar, Controlar) como estándar de competencia profesional (2). El control humano debe ser absoluto; la actual cifra del 51% de supervisión en marketing es inadmisible ante los riesgos de daño social (1). Las empresas deben reconocer que la inclusión es un imperativo comercial: el potencial de crecimiento del 16% en ventas a largo plazo para marcas inclusivas debe ser el motor que impulse la contratación de mujeres en el sector STEM, con el objetivo de alcanzar la paridad en la fuerza laboral de IA para 2030 (1, 2).

• Resiliencia y protección de la esfera pública (2027-2030). Se deben crear coaliciones globales entre la sociedad civil, la academia y las organizaciones internacionales para monitorear en tiempo real la violencia digital (3, 4). La protección de las mujeres periodistas, activistas y defensoras de derechos humanos debe ser una prioridad de seguridad nacional en los marcos democráticos. Esto requiere no solo defensa legal, sino también el desarrollo de tecnologías de código abierto diseñadas específicamente para detectar y repeler el acoso automatizado (3, 4).

En conclusión, el futuro de la IA no está predeterminado. El riesgo de que la tecnología integre de manera estructural la desigualdad en los sistemas sociales del futuro es real, pero no inevitable (1). Si se incorpora la voz, la experiencia y la pericia de las mujeres en cada etapa del ciclo de vida de la IA —desde el código inicial hasta la gobernanza global— la inteligencia artificial puede dejar de ser un vector de violencia para convertirse en la herramienta más poderosa para la equidad y el progreso social que la humanidad haya conocido (1, 2).

7.2. Bibliografía final

En el desarrollo de este artículo se han utilizado exclusivamente fuentes documentales primarias de ONU Mujeres y la Alianza Estereotipos (Unstereotype Alliance). Las referencias se ordenan conforme al sistema autor-institución:

I. Documentos institucionales y comunicados de prensa

UN WOMEN, «AI is already rewriting reality for billions of people. It is getting women wrong», Comunicado de prensa [Press advisory], ONU Mujeres, Nueva York, 22 de junio de 2026. [Fuente (1) en el texto]

UN WOMEN, Tipping Point: The Chilling Escalation of Online Violence Against Women in the Public Sphere (Evidence Brief 1), ONU Mujeres, Nueva York, diciembre de 2025. [Fuente (4) en el texto]

UN WOMEN, Tipping Point: Online Violence Impacts, Manifestations and Redress in the AI Age (Evidence Brief 2), ONU Mujeres, Nueva York, abril de 2026. [Fuente (3) en el texto]

II. Publicaciones técnicas y guías de práctica

UNSTEREOTYPE ALLIANCE (convened by UN Women), The 3Cs Playbook: Skills for Inclusive AI, Unstereotype Alliance / ONU Mujeres, Nueva York, junio de 2026. [Fuente (2) en el texto]

III. Normativa europea referenciada en el análisis

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial [Reglamento de Inteligencia Artificial, RIA], DO L, 12 de julio de 2024.

Directiva (UE) 2024/1385 del Parlamento Europeo y del Consejo, de 14 de mayo de 2024, sobre la lucha contra la violencia contra las mujeres y la violencia doméstica, DO L, 24 de mayo de 2024.

Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo, de 19 de octubre de 2022, relativo a un mercado único de servicios digitales [Reglamento de Servicios Digitales, DSA], DO L 277, 27 de octubre de 2022.