xAI se enfrenta a una nueva demanda civil por imágenes ilegales de un menor generadas con Grok. La presentó el bufete Potts Law Firm el 23 de julio en nombre de una familia, según su comunicado, y se suma a una demanda colectiva que ya estaba en marcha.
Puntos clave
- La demanda parte de una investigación penal contra un fotógrafo de Bentonville (Arkansas), imputado por varios delitos graves.
- Según el escrito, se usaron fotografías reales del menor para generar las imágenes.
- La demanda sostiene que la tecnología de xAI participó en la creación y facilitación de ese material.
- El 7 de julio, la demanda colectiva por deepfakes contra xAI se amplió con dos demandantes anónimos más.
- El 21 de julio se supo que xAI ha demandado a su vez a un usuario por generar ese mismo tipo de contenido con su herramienta.
Qué se está discutiendo en realidad
El asunto de fondo no es el contenido, es quién responde por él.
La postura habitual de las empresas de IA es que ellas ponen la herramienta y el usuario decide qué hacer con ella, igual que un fabricante de cámaras no responde por lo que alguien fotografíe. Las demandas van justo contra eso: alegan que si el sistema permite subir la foto de una persona real y generar material ilegal con ella, la empresa no es un intermediario neutral, es parte del proceso.
Que xAI haya demandado a su vez a un usuario por lo mismo refuerza esa tensión. Es una defensa razonable desde el punto de vista jurídico (señalar al que lo hizo) y a la vez un reconocimiento incómodo de que su herramienta lo produjo.
Nada de esto está resuelto todavía. Son demandas presentadas, no sentencias.
Por qué esto va más allá de xAI
Grok es el caso que está en los tribunales, pero el problema de fondo lo tiene cualquier generador de imágenes que acepte una foto de referencia.
xAI ha sido siempre el más permisivo del grupo. Es parte de su posicionamiento: menos filtros que OpenAI o Google, y Elon Musk lo ha presentado como una virtud frente a lo que llama censura de los otros laboratorios. Este mes hemos contado su modelo de dos billones de parámetros y la hoja de ruta de Grok y el lío con la película generada con Grok Imagine.
La factura de esa permisividad está llegando ahora, y va a llegar en forma de jurisprudencia. Lo que decidan estos tribunales sobre la responsabilidad del proveedor va a aplicar después a todos.
Por qué importa
Si tu empresa usa generación de imágenes con IA, la lectura práctica es una y es aburrida: importa qué proveedor eliges y qué controles pones tú encima.
Tres puntos concretos. Uno, subir fotos de personas reales a un generador para crear variantes es la categoría de uso donde está toda la litigación; si lo haces con empleados o clientes, necesitas consentimiento escrito y por escrito. Dos, los términos de servicio de cada proveedor reparten la responsabilidad de forma distinta, y merece la pena leer esa cláusula antes de firmar el contrato anual. Tres, guarda registro de qué se generó, con qué herramienta y quién lo pidió.
Y una decisión de proveedor. Elegir la herramienta con menos filtros porque deja hacer más cosas parece una ventaja hasta que la ventaja se convierte en riesgo legal. Para uso profesional, un modelo que te dice que no de vez en cuando es una característica, no un defecto.
En Europa el marco además ya está escrito. El Reglamento de IA obliga a etiquetar el contenido sintético y el Reglamento General de Protección de Datos cubre la imagen de una persona como dato personal, con o sin IA de por medio. Una empresa española que genere imágenes de personas para publicidad tiene esa obligación hoy, independientemente de cómo acaben estos juicios en Estados Unidos.
Relacionado
