La Asociación Juezas y Jueces para la Democracia expresa su preocupación ante los riesgos que plantea el uso de la inteligencia artificial cuando esta reproduce o amplifica los sesgos de género presentes en la sociedad y en los sistemas de decisión.

Casi una de cada tres mujeres en el mundo —aproximadamente 736 millones— ha experimentado violencia física o sexual al menos una vez en su vida, sin contar el acoso sexual.
Los esfuerzos para prevenir y abordar la violencia de género se ven seriamente obstaculizados por la escasez de datos confiables y de alta calidad que permitan comprender dónde, por qué y con qué frecuencia ocurre esta violencia. A pesar de su magnitud global, la violencia de género continúa estando subregistrada y subestimada.

La inteligencia artificial constituye una herramienta de enorme potencial en la gestión de datos, el análisis de información y la mejora de las políticas públicas. Sin embargo, los sistemas algorítmicos no son neutrales: aprenden de los datos con los que se entrenan y, cuando estos reflejan desigualdades históricas o estereotipos sexistas, la tecnología reproduce y consolida dichas desigualdades.

Diversos estudios internacionales han alertado sobre este fenómeno. La propia estructura del sistema judicial, basada en precedentes y en un lenguaje con una larga tradición androcéntrica e incluso machista, contribuye a perpetuar estos sesgos, que la IA puede amplificar si no se controla adecuadamente.

La situación es especialmente delicada en el ámbito de la violencia de género, donde la inteligencia artificial comienza a utilizarse en tareas de evaluación de riesgos, detección temprana o análisis de patrones de comportamiento. Estas aplicaciones, si no son sometidas a una evaluación ética rigurosa, pueden distorsionar la realidad, invisibilizar a las víctimas o minimizar la gravedad de los hechos, comprometiendo los principios de igualdad y justicia que deben guiar toda actuación institucional.

Asimismo, los sistemas de IA utilizados en redes sociales y plataformas digitales pueden reproducir o tolerar formas de violencia y acoso en línea, afectando a la seguridad y al bienestar de mujeres y niñas.  Observamos con inquietud el uso de tecnologías de IA en el espacio digital, donde se intensifican nuevas formas de violencia machista, como la difusión de contenidos falsos, manipulaciones de imágenes (deepfakes), hostigamiento en redes sociales o control tecnológico de las víctimas, ejemplos que muestran la normalización y gravedad del acoso en línea, que a menudo refleja la violencia de género fuera de internet. Estas manifestaciones de violencia digital requieren una respuesta integral que combine políticas de prevención, formación y protección efectiva. EN todo caso la automatización sin control humano efectivo puede favorecer la propagación de contenidos misóginos o la impunidad de agresiones digitales.

La lucha contra la violencia de género requiere datos precisos, representativos y libres de sesgos, pero también una profunda reflexión ética y jurídica sobre el modo en que se recogen, procesan y utilizan dichos datos. La IA puede ser una aliada en la mejora de los sistemas de prevención y respuesta, siempre que se diseñe con una perspectiva de género, un enfoque de derechos humanos y protocolos de protección de la privacidad y seguridad de las víctimas.

Para ello es esencial que su implementación sea ética y centrada en las sobrevivientes de la violencia de género y que el diseño de estas herramientas sea con un enfoque culturalmente sensible, que integre las lenguas, cosmovisiones y experiencias de vida de las sobrevivientes a quienes sirven. Este enfoque favorece la inclusión, hace que los sistemas sean relevantes y reduce los sesgos en su diseño y desarrollo.

Desde la Asociación Juezas y Jueces para la Democracia, siguiendo las recomendaciones internacionales (ONU Mujeres, Consejo de Europa, Comisión Europea y UNESCO) sobre ética de la inteligencia artificial y enfoque de género, instamos a las administraciones públicas, a los operadores jurídicos y a los desarrolladores tecnológicos a:

• Garantizar la transparencia, la trazabilidad y la explicabilidad de los algoritmos utilizados en materia de igualdad y violencia de género, de modo que puedan ser objeto de supervisión pública y judicial. 
• Asegurar la participación de equipos multidisciplinares y diversos —con presencia equilibrada de mujeres y hombres— en el diseño, desarrollo, implementación y evaluación de los sistemas de inteligencia artificial.  
• Adoptar marcos éticos sólidos que aseguren que la tecnología sirva al interés público y no reproduzca ni amplifique discriminaciones estructurales. 
• Formar a profesionales del derecho, la seguridad y la tecnología en la detección y prevención de los sesgos algorítmicos/Impulsar la formación de los y las profesionales del derecho, la seguridad y la tecnología en la detección, prevención y corrección de los sesgos algorítmicos, incorporando esta materia en los programas de capacitación y actualización profesional. 
• Velar por que la inteligencia artificial complemente, pero nunca sustituya, la valoración humana en los procesos que afectan a los derechos de las personas, especialmente a las mujeres víctimas de violencia. 
• Incorporar la perspectiva de género de forma obligatoria en todas las estrategias, normativas y evaluaciones de impacto relacionadas con la inteligencia artificial.  

El avance tecnológico no puede desligarse de los valores democráticos y de los derechos fundamentales. 

Solo una inteligencia artificial ética, inclusiva y supervisada, al servicio de la justicia y la dignidad humana, podrá convertirse en una verdadera aliada en la erradicación de la violencia de género. 

24 de octubre 2025