La creación de imágenes sexuales de mujeres con inteligencia artificial ha encendido las alarmas a nivel internacional. Esta nueva cara de la violencia digital es un delito y aquí te contamos en qué consiste y qué ley protege a las víctimas en México.
“El cuerpo de una mujer no es propiedad pública”
La inteligencia artificial está revolucionando al mundo con un gran abanico de oportunidades para hacer nuestra vida más fácil, sin embargo, esta tecnología también tiene un lado oscuro. En las últimas semanas ha conmocionado al mundo el nuevo uso que se le ha dado a la inteligencia artificial: la creación y proliferación de imágenes sexuales falsas hechas con estas herramientas.
Hace apenas unos días, la cantante española Rosalía condenó públicamente la publicación de imágenes falsas de su torso desnudo en historias de Instagram de Juan Manuel Cortés Reyes, o JC Reyes. La también actriz y productora publicó un mensaje en sus redes sociales, donde señala que “el cuerpo de una mujer no es propiedad pública” y pide respeto para todas las mujeres:
“Existe algo llamado consentimiento y todos a los q os pareció gracioso o plausible espero de corazón q un día aprendáis q venís d una mujer, q las mujeres somos sagradas y que se nos ha de respetar, bye”, escribió la cantante.
El cuerpo d una mujer n es propiedad pública, no es una mercancía xa tu estrategia d marketing. Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni t conozco. Existe algo llamado consentimiento y todos a los q os pareció gracioso o plausible espero de…
— R O S A L Í A (@rosalia) May 24, 2023
Mujeres, las principales víctimas de la violencia digital
Tras lo ocurrido con Rosalía, la cuenta de Instagram Malvestida, dedicada a la difusión de contenidos sobre los derechos de las mujeres y contra la violencia de género, destacó que, de acuerdo con Deeptrace Labs, “las mujeres son las principales víctimas de estas prácticas en todo el mundo”. Asimismo, explica que en nuestro país no existe información precisa sobre el uso de la inteligencia digital para difundir imágenes sexuales, aunque “la violencia digital afecta a tres de cada 10 mujeres de 12 a 29 años”.
“Por eso es importante tomar medidas para prevenir, protegernos en la medida de lo posible y nombrar esta violencia (…). Es crucial nombrar y enfrentar la violencia digital. Ixchel enfatiza la importancia de exigir respuestas a las plataformas y autoridades, ya que lo que ocurre en el espacio digital también tiene un impacto real en nuestro cuerpo”.
De acuerdo con el informe “Violencia Digital: un estudio de los perfiles de agresores y sobrevivientes de violencia sexual digital”, elaborado por el Frente Nacional para la Sororidad, entre mayo de 2019 y diciembre de 2021, esta organización recibió 1,705 denuncias sobre violencia digital de diferentes tipos, tales como difamación virtual, ciberpersecución, sextorsión y difusión de contenido íntimo. La mayoría de las víctimas eran mujeres: 1,625 casos contra 47 casos de hombres.
¿Podemos protegernos de las ‘nudes’ y el porno hechos con inteligencia artificial?
En nuestro país, la Ley Olimpia es la legislación encargada de castigar la creación y difusión de imágenes íntimas sin el consentimiento de las personas, no obstante, especialistas y organizaciones advierten que hasta el momento no hay una regulación completa para casos de violencia digital producto de la inteligencia artificial. Como explica Olimpia Coral Melo Cruz, activista que impulsó la creación de la mencionada ley, la regulación de estos casos es nueva en todo el mundo y aún falta mucho camino por recorrer para la protección efectiva de las víctimas.
Sin embargo, gracias a la Ley Olimpia, se reconocen también en el Código Penal Federal como violencia digital los contenidos reales alterados o manipulados, por lo que es posible aplicarla a las imágenes alteradas o manipuladas con inteligencia artificial.
“El gran desafío radica en a quién se consignará y perseguirá, dado los 2.5 millones de mercados de explotación sexual en toda América Latina. Además, las mujeres latinas o de ascendencia latina tienen un 200% más de probabilidades de experimentar violencia sexual digital. La impunidad en estos casos es alarmante, y al menos el 65% de los casos denunciados por la Ley Olimpia no reciben la atención ni la información necesaria por parte de las empresas responsables”, explicó la activista.
En entrevista con el diario Sin Embargo, Grecia Macías, de la Red de Defensa de los Derechos Digitales (R3D), explicó que faltan regulaciones claras en la materia, aunque existen leyes sobre “la protección de datos personales, la violencia digital y las obligaciones de las empresas para proteger y asumir responsabilidad por las violaciones de los derechos humanos”. Asimismo, señala que en algunas entidades hay leyes que donde se menciona la “creación o simulación de imágenes”, pero “lamentablemente, la regulación implementada no cumplió con las expectativas”.
“En cuanto a la creación de este tipo penal, fue muy deficiente, dejó mucho que desear, y fue objeto de grandes críticas por parte de varias organizaciones de derechos humanos y derechos digitales, ya que se promovió sin un estudio serio y otros análisis para obtener la mejor legislación posible”.
¿Qué medidas existen para prevenir la violencia digital relacionada con contenidos sexuales?
En su publicación, Malvestida recuerda a las mujeres que actualmente existen herramientas para protegerse y prevenir este tipo de violencia, tales como la herramienta “Nunca sin mi consentimiento” de Meta, “que utiliza inteligencia artificial para borrar imágenes íntimas si alguien intenta publicarlas”. Asimismo, recomienda seguir medidas como: “no aceptar todas las cookies, usar contraseñas seguras, leer los términos y condiciones de las redes sociales y decidir entre perfiles públicos o privados”.
Para obtener mayor información sobre cómo puedes prevenir ser víctima de la violencia digital, visita las páginas de Malvestida y Luchadoras, donde encontrarás valiosas herramientas y recomendaciones para cuidarte en los espacios digitales.
“Protegernos de las nudes falsas hechas con IA requiere un enfoque integral. Educarnos sobre nuestro cuidado digital, prevenir y exigir a las empresas que garanticen usos éticos de sus herramientas”
Ve también: Ley Olimpia y Ley Ingrid, dos nombres y una lucha: proteger a las mujeres
