Luego de que se generara una polémica dada la capacidad de Grok, el chatbot de inteligencia artificial de X -la red social de Elon Musk-, de generar deepfakes sexualizados, se anunciaron medidas para impedir que la herramienta transforme fotos de personas reales en contenido de carácter sexual.

Durante los primeros días de enero comenzaron a surgir fuertes críticas de los usuarios contra Grok, acusando al chatbot de IA de generar deepfakes sexualizando a personas reales, sobre todo a mujeres y menores de edad, sumándole también el uso sarcástico para burlarse de importantes figuras públicas, generalmente de la política.

"Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis", indicó el equipo de seguridad de X a través de un comunicado y agregaron: "Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago".

En concreto, la medida implementada en la plataforma de Elon Musk le indicó a la herramienta de IA que "bloqueará geográficamente la capacidad" de todos los usuarios para generar imágenes de personas en "bikinis, ropa interior y atuendos similares" en las jurisdicciones que consideren ilegal dicho accionar.

El anuncio de la medida sobre Grok se generó luego de que la fiscalía de California, Estados Unidos, iniciara una investigación sobre xAI, la empresa de inteligencia artificial del magnate, por "facilitar la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X".

"Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico", sostuvo el fiscal general del estado, Rob Bonta, a través de un comunicado, en indicó que la investigación buscará determinar "si, y cómo, xAI violó la ley".

El accionar de la fiscalía de California se suma también al de las autoridades de la Unión Europea, quienes recientemente se sumaron a la condena pública de Grok y, en paralelo, el gobierno británico advirtió que podría iniciar una investigación formal de la misma.

La campaña "Ey, Grok, poneme bikini" también presionó tanto al empresario como a su plataforma, generando un movimiento internacional en repudio de Grok y la posibilidad de la herramienta de modificar imágenes, sobre todo aquellas publicadas en X, para generar contenido de carácter sexual.