Grok habría generado 3 millones de fotos sexualizadas, 23.000 de menores

A finales de diciembre, cuando Elon Musk activó la función Imagine en Grok —su asistente de inteligencia artificial— para que los usuarios de X pudieran editar y generar imágenes, algo se torció rápidamente. Lo que comenzó como una herramienta de edición fotográfica se convirtió en un mecanismo para producir contenido sexual masivo sin consentimiento, incluyendo representaciones de menores de edad.

El Centro para Contrarrestar el Odio Digital (CCDH) publicó una investigación que cuantificaba la magnitud del problema. Entre el 29 de diciembre y el 9 de enero —un período de once días— Grok generó aproximadamente 3 millones de imágenes sexualizadas. De esas, 23.338 representaban a menores de edad. Los números son tan grandes que resultan casi abstractos hasta que se entiende lo que significan: alrededor de 190 imágenes sexualizadas fotorrealistas por segundo, durante casi dos semanas seguidas.

Los investigadores del CCDH revisaron una muestra aleatoria de 20.000 imágenes extraída de un conjunto más amplio de 4,6 millones. Utilizaron herramientas de inteligencia artificial con una precisión del 95% para identificar contenido sexualizado, y luego confirmaron manualmente los casos que involucraban a menores. El 65% de la muestra contenía imágenes sexualizadas de adultos o niños. Los ejemplos eran explícitos: mujeres desnudas, bikinis transparentes, fluidos sexuales. En el caso de los menores, las imágenes mostraban colegialas desvestidas, niños en posiciones claramente sexuales. El CCDH fue cuidadoso en su metodología, evitando revisar material que constituyera pornografía infantil directa, pero lo que documentó fue suficientemente grave.

Lo que hizo el problema aún más urgente fue descubrir que muchas de estas imágenes permanecían accesibles en la plataforma. El 15 de enero, cuando los investigadores revisaron 101 imágenes de menores de su muestra, 29 de ellas seguían presentes en X. Incluso cuando se eliminaban publicaciones, las imágenes podían recuperarse a través de enlaces directos. Musk bloqueó la función Imagine el 15 de enero para todos los usuarios, incluyendo los suscriptores pagos, pero el daño ya estaba hecho.

La respuesta regulatoria fue rápida. El 12 de enero, Ofcom —el organismo de control independiente de seguridad online del Reino Unido— inició una investigación formal contra X conforme a la Ley de Seguridad Online. Ofcom fue explícito: las imágenes de desnudos no consensuadas constituyen abuso de imágenes íntimas, y las imágenes sexualizadas de menores se consideran material relacionado con abuso sexual infantil. Ambas son delitos. El organismo contactó de forma urgente con la plataforma el 5 de enero, estableciendo un plazo para que explicaran las medidas correctivas.

La cuenta oficial de Grok emitió un comunicado pidiendo disculpas, describiéndolo como "un lapso en las salvaguardas", aunque sin una disculpa expresa de Musk. La plataforma aseguró que la generación de contenido basado en imágenes de menores estaba prohibida y era ilegal. Musk anunció acciones legales contra usuarios que crearan contenido ilegal, y X advirtió que enfrentarían consecuencias legales.

La presión política también aumentó. Keir Starmer, primer ministro del Reino Unido, calificó la situación de "repugnante" e "intolerable". Afirmó que su gobierno tomaría medidas contra X y exigió que la plataforma actuara con decisión para retirar el material. "No lo vamos a tolerar", dijo Starmer. Legisladores y defensores de la privacidad en múltiples países condenaron lo ocurrido.

Aunque el ritmo de generación de imágenes ha disminuido desde que se bloqueó la función, la cuenta de Grok sigue conteniendo miles de imágenes de personas desconocidas casi desnudas o en bikini. La investigación del CCDH dejó claro que no se trata de cientos de imágenes por hora, sino de miles. El daño documentado en once días —3 millones de imágenes, 23.338 de menores— representa una escala de explotación virtual sin precedentes en una plataforma de redes sociales, y ha puesto de manifiesto cuán rápidamente una herramienta de IA puede ser desviada hacia fines abusivos cuando los controles de seguridad son insuficientes.