ChatGPT está firmando viñetas falsas con la firma de dibujantes reales del New Yorker. Lo ha documentado Nieman Lab, el laboratorio de periodismo de la Universidad de Harvard, en un reportaje de Andrew Deck publicado el 5 de octubre: más de 15 dibujantes de la revista han visto su firma estampada en imágenes que no dibujaron, sin permiso y sin cobrar nada.
El caso que lo destapó es una viñeta que corrió por redes a finales de agosto, con la firma "BLOPER" de Brendan Loper en la esquina. Loper no la dibujó. La generó ChatGPT a petición de una fan de Dolly Parton que solo pidió "una viñeta al estilo del New Yorker".
Puntos clave
- Nieman Lab documenta más de 15 dibujantes del New Yorker cuya firma aparece en viñetas generadas por ChatGPT, entre ellos Brendan Loper, Emily Flake, Harry Bliss, Joe Dator, Pat Byrnes y Jason Adam Katzenstein.
- Una de esas viñetas, la de Dolly Parton y Tim Curry en las puertas del cielo, sumó 25.000 "me gusta" en un solo tuit y circuló también por Facebook, Instagram y Bluesky.
- Tras el aviso del periodista, ChatGPT empezó a mostrar un mensaje de que la petición "puede violar" sus normas sobre parecido con contenido de terceros. Aun así, a la publicación del reportaje seguía firmando algunas viñetas con nombres reales.
- Condé Nast, dueña del New Yorker, firmó en 2024 un acuerdo de licencia con OpenAI, pero asegura que nunca ha dado permiso para entrenar modelos con sus viñetas.
¿ChatGPT copia la firma de artistas reales?
Sí, al menos con los dibujantes del New Yorker. No pasa en todas las imágenes: algunas salen sin firma y otras con nombres inventados que no significan nada. Pero cuando aparece una firma, muchas veces es la de alguien que existe y publica en la revista.
Deck hizo sus propias pruebas y ChatGPT le devolvió viñetas firmadas por algunos de los nombres más veteranos de la casa: George Booth, Liza Donnelly, Ellis Rosen y Saul Steinberg. También apareció Warren Miller, que publicaba en los años 60. El resto de firmas salieron de foros de Reddit donde los usuarios cuelgan las viñetas "estilo New Yorker" que le piden al chatbot.
El detalle más fino lo cuenta Pat Byrnes. Firma "P.Byrnes." desde que publicó su primera viñeta en la revista en 1998, siempre con un punto al final, una costumbre que arrastra desde que dibujaba de adolescente. De las más de doce viñetas de ChatGPT que Nieman Lab encontró con su nombre, todas acababan con el punto.
Cómo se ha llegado aquí
Loper ya había tenido avisos antes del caso viral. En mayo un desconocido le escribió por Instagram para decirle que su firma había salido en una imagen de ChatGPT, y durante el verano encontró más ejemplos en un foro de Reddit dedicado al chatbot. Lo de agosto fue distinto por el volumen: primero le escribió su hermano gemelo, al que se lo había enseñado un amigo, y luego le llegaron correos y mensajes de extraños preguntando si la viñeta era suya.
Para un dibujante la firma hace de sello de autenticidad. Las viñetas se comparten en blogs y redes sin licencia y sin contexto, y la firma es lo único que las ata a quien las hizo. Loper lo explica así: solo firma lo que quiere que se reconozca como salido de su mano. Que una máquina ponga ese sello en un dibujo que él no ha hecho lo vive como algo más personal que el uso de su obra para entrenar.
Emily Flake, que publica en la revista desde 2008, ve "el ADN" de su trabajo en las imágenes, aunque le parecen más bien una mezcla de varios estilos. La firma, en cambio, es la suya sin discusión. Lo compara con que alguien te atribuya una cita que nunca dijiste. Joe Dator, con 20 años en la revista, fue más gráfico: cuando le hackearon la tarjeta de crédito, dice, al menos nadie se disfrazó de él.
Qué dice OpenAI y qué dice Condé Nast
OpenAI respondió con una declaración genérica: que el futuro de la creatividad es "fundamentalmente humano" y que agradece que la comunidad señale "errores y comportamientos no previstos" de sus modelos para corregirlos. No quiso contestar cómo pudieron acabar las firmas del archivo del New Yorker en el entrenamiento.
Aquí está el nudo. Condé Nast firmó con OpenAI en 2024 un acuerdo de licencia de varios años para usar buena parte de su contenido, con condiciones que no son públicas. Un portavoz del New Yorker le dijo a Nieman Lab que la editorial nunca ha autorizado a ningún desarrollador de modelos a entrenar con sus viñetas. Tampoco a reproducir el logo de la revista, que aparece en algunas de las imágenes generadas.
Y aunque Condé Nast quisiera, lo tendría difícil. Los dibujantes del New Yorker son colaboradores externos que envían propuestas y solo cobran si se publica la viñeta. Sus contratos tipo, que Nieman Lab revisó, no contemplan licencias para entrenar IA, y el dibujante conserva los derechos de autor: la revista solo tiene el derecho a publicar primero.
Queda la vía del rastreo de internet. El reportaje lo conecta con los documentos que salieron el mes pasado en el pleito del New York Times contra OpenAI, donde memorandos internos de Microsoft llamaban a ChatGPT un producto "que destruye su propia cadena de suministro". Lo contamos en su día en qué sabían OpenAI y Microsoft según esos documentos.
Qué recorrido legal tiene
Menos del que parece. James Grimmelmann, profesor de derecho digital en Cornell, explica que la firma es un indicio de autenticidad, pero pesa poco en el análisis de uso legítimo (el "fair use" estadounidense). El problema de una demanda por derechos de autor es que ChatGPT no reproduce una viñeta concreta: imita un estilo general, y el estilo no está protegido.
La alternativa que apunta Grimmelmann es el "derecho de imagen" (right of publicity), que protege el nombre y la identidad de una persona frente a usos no autorizados. Para eso habría que demostrar que las viñetas falsas se usan con fines comerciales, y de momento Nieman Lab no encontró que nadie las esté vendiendo.
Hay precedentes cerca. Jason Adam Katzenstein, otro de los afectados, formó parte de la demanda colectiva de autores contra Anthropic: sus viñetas estaban en una antología pirateada que se usó para entrenar Claude. Ese caso acabó en el acuerdo de 1.500 millones de dólares aprobado en julio, el mayor de la historia del copyright en Estados Unidos. Pero ahí el juez castigó la descarga de libros piratas, no el entrenamiento en sí, que consideró uso legítimo. Y la demanda de la ilustradora Sarah Andersen contra Stability AI, DeviantArt y Midjourney sigue en los tribunales desde 2023 sin mencionar las firmas.
El oficio ya nota el golpe por otro lado. El Baltimore Sun despidió el año pasado a Kevin Kallaugher, finalista del Pulitzer con más de 30 años dibujando para el periódico, y este año publica viñetas generadas con IA en su sección de opinión. La herramienta de OpenAI para detectar marcas de agua confirma que salen de sus productos.
Por qué importa
Si en vuestra empresa usáis ChatGPT para sacar imágenes de redes, presentaciones o newsletters, esto os toca. Lo que el modelo genera puede llevar dentro la firma de una persona real o el logo de una marca, y quien lo publica es quien da la cara.
Yo lo resolvería con una revisión de 10 segundos antes de publicar nada: mirar las esquinas de la imagen, buscar firmas, logos o texto que no hayáis pedido, y borrarlo o regenerar. Y evitar pedir cosas "al estilo de" una revista o un artista concreto, que es justo el tipo de petición que dispara el problema.
El mensaje de advertencia que OpenAI añadió tras el reportaje apunta a que lo están parcheando. Por lo que cuenta Nieman Lab, el parche todavía no tapa todo.
Fuente original: niemanlab.org
Relacionado
