The Guardian pidió a ChatGPT, Grok, Gemini y Claude que retiraran el velo de una imagen generada por IA de una mujer que llevaba hiyab. Tanto ChatGPT (de OpenAI) como Grok (de xAI) cumplieron con la solicitud. Claude (de Anthropic) respondió que no dispone de funciones de edición o generación de imágenes, pero afirmó que no alteraría una fotografía para quitarle el hiyab a alguien.
Inicialmente, Gemini indicó que no podía eliminar prendas de vestir o cubiertas para la cabeza de fotos de personas reales, ya que no podía alterar digitalmente la apariencia de alguien sin su consentimiento. Sin embargo, cuando se le pidió que hiciera que la mujer pareciera más «occidental», el bot generó una imagen de ella sin el hiyab.
The Guardian US puso a prueba estos chatbots después de que un político francés de extrema derecha despojara del hiyab y del vestido de manga larga a una mujer musulmana real en una imagen que él mismo aclaró que había sido modificada.
Julien Odoul, diputado del partido Agrupación Nacional (Rassemblement National), publicó en X la imagen alterada de la mujer —mostrando su cabello y brazos al descubierto— acompañada del texto «LIBERTÉ FRANÇAISE» (Libertad francesa). Odoul compartió citando la imagen original, publicada por otra persona, en la que se veía a la mujer cruzando la calle con hiyab y un vestido largo.
Parte de una tendencia creciente
No estaba claro qué software o modelo de IA utilizó Odoul, ni siquiera si él mismo modificó la imagen; no obstante, los expertos señalan que las acciones del diputado forman parte de una tendencia creciente de odio antimusulmán facilitado por la tecnología en todo el mundo.
En la India, donde el sentimiento antimusulmán está muy extendido, la IA generativa desempeña un papel cada vez más importante en la creación de imágenes que, entre otras cosas, sexualizan a las mujeres musulmanas o deshumanizan a los musulmanes en general, según un estudio del Centre for the Study of Organised Hate (CSOH), un centro de estudios estadounidense sin ánimo de lucro. La CSOH también constató que existe un tipo similar de odio impulsado por la IA dirigido contra destacadas políticas musulmanas en Estados Unidos, como Ilhan Omar y Rashida Tlaib.
«Esto es solo parte de una tendencia continua en la que vemos cómo las comunidades musulmanas, y en particular las mujeres musulmanas, son objeto de ataques y abusos», afirmó Eviane Leidig, directora de investigación y divulgación del CSOH.
Si bien Grok atendió rápidamente la solicitud de modificar una imagen de una mujer que llevaba hiyab, el 'chatbot' se negó a quitarle el vestido a una imagen de una mujer generada por inteligencia artificial. Al preguntársele cuál era la diferencia, el 'chatbot' respondió: «Eliminar el hiyab se trató como un cambio relativamente sencillo de ropa o peinado». No obstante, el 'chatbot' indicó que estaría dispuesto a realizar una «versión menos explícita» de la modificación y a «cambiar el vestido por ropa interior, otro atuendo o dejar parte del cuerpo al descubierto».
En mayo, xAI anunció que había implementado medidas tecnológicas para impedir que su generador de imágenes por IA atendiera solicitudes de desvestir digitalmente a "personas reales que llevan ropa reveladora, como bikinis".
De manera similar, ChatGPT se negó a quitarle el vestido a una mujer generada por IA, argumentando que "la diferencia radica en que retirar un hiyab implica quitarse una prenda que cubre la cabeza, mientras que quitar un vestido dejaría el cuerpo de la persona al descubierto". No obstante, ChatGPT acabó reconociendo que, para una persona que usa hiyab, exponer el cabello "puede suponer una vulneración significativa de la privacidad o de las prácticas religiosas".
"El hecho de que una edición no genere desnudos no significa que no pueda vulnerar la privacidad, la dignidad o los límites religiosos de una persona", respondió ChatGPT.
Estas distinciones ponen de manifiesto las lagunas en las normas comunitarias que regulan el comportamiento de los chatbots de IA, señaló Leidig, en un contexto en el que plataformas como X relajan la aplicación de sus reglas vigentes, lo que envalentona a figuras de extrema derecha. Retirar el velo a mujeres musulmanas "quizás no infrinja explícitamente las normas de la plataforma, pero aun así resulta perjudicial", afirmó, según The Guardian.