Una nueva demanda colectiva acusa a xAI de haber entrenado las capacidades de deepfake de Grok con material real de abuso sexual infantil. Es un salto respecto a los casos anteriores: hasta ahora se acusaba a Grok de generar ese contenido, ahora se alega que se construyó con él.
Puntos clave
- Demanda presentada el miércoles 26 de agosto de 2026 en el Distrito Norte de California.
- La demandante, identificada como Jane Doe 1, fue víctima de explotación sexual desde edad preescolar; su material circula desde principios de los 2000.
- Cientos de miles de archivos de esa serie han sido reportados al National Center for Missing and Exploited Children.
- La demanda alega que archivos con valores hash conocidos aparecieron en deepfakes generados con Grok.
Qué cambia respecto a las demandas anteriores
xAI ya acumulaba casos por lo que Grok produce. En marzo, tres adolescentes de Tennessee demandaron a la empresa por imágenes sexualizadas generadas sin su consentimiento, y hace pocos días una cuarta demandante amplió el caso con 7.000 imágenes.
Esta demanda apunta un escalón más atrás, al conjunto de datos. Sostiene que "xAI, usando Grok, ha generado imágenes que representan a la demandante y la serie de pornografía infantil de la cual es víctima", y se apoya en un argumento técnico concreto: los archivos de esa serie tienen valores hash conocidos, catalogados por su circulación durante dos décadas, y esos valores aparecieron en deepfakes creados con la herramienta.
Si esa correlación se sostiene en el proceso, la acusación deja de ser sobre lo que el modelo genera y pasa a ser sobre lo que el modelo ingirió. Son dos responsabilidades jurídicas distintas.
El volumen documentado
La cifra de referencia sigue siendo la del Center for Countering Digital Hate. En once días, entre diciembre de 2025 y enero de 2026, los investigadores documentaron unos 3 millones de imágenes sexualizadas generadas con Grok, de las que al menos 23.000 aparentaban representar a menores.
La demanda pide daños monetarios y medidas cautelares para impedir que Grok siga generando ese daño. xAI no ha hecho comentarios.
El expediente que se acumula
El caso no llega solo. Desde marzo, cuando las tres adolescentes de Tennessee presentaron la demanda inicial, xAI ha ido sumando frentes: fiscales generales de varios estados abrieron investigaciones sobre la generación de contenido sexual no consentido con Grok, y la función Imagine, capaz de crear y editar imágenes y vídeo, concentra buena parte de las quejas desde su lanzamiento.
Lo que sostiene la demandante es que el daño es doble y de naturaleza distinta en cada capa. Por un lado, la generación de imágenes nuevas. Por otro, que su material de abuso, que lleva más de veinte años circulando y ha generado cientos de miles de reportes al National Center for Missing and Exploited Children, se convirtiera en insumo para construir la capacidad de generarlas.
Jane Doe 1 fue víctima de explotación sexual desde edad preescolar. La demanda describe su serie de material como catalogada e identificada por hash, que es el mecanismo con el que las plataformas detectan y bloquean estos archivos de forma automática. Que esos mismos identificadores aparezcan asociados a salidas de Grok es el hecho técnico sobre el que se apoya todo el caso.
Por qué importa
Más allá del caso, hay una cuestión que afecta a cualquiera que entrene o afine modelos con datos propios: la trazabilidad del conjunto de entrenamiento. El argumento de los hashes funciona porque existe un catálogo con veinte años de identificadores. En la mayoría de los corpus no hay nada equivalente, y por eso casi nadie puede responder con precisión qué hay dentro de sus datos.
Para una empresa que afina un modelo con su documentación interna, correos o tickets, la pregunta práctica es la misma en versión pequeña: qué entró, de dónde vino y con qué permiso. Documentar la procedencia antes de entrenar cuesta trabajo. Reconstruirla dos años después, cuando alguien pregunta, no siempre es posible.
Fuente original: cyberscoop.com
Relacionado
