OpenAI intentó cortar la pregunta a Sam Altman sobre un suicidio

OpenAI intentó cortar la pregunta a Sam Altman sobre un suicidio
Fuente: theverge.com

Una responsable de prensa de OpenAI intentó cortar la entrevista de Vanity Fair a Sam Altman justo cuando el periodista le preguntaba por el suicidio de una usuaria de ChatGPT. Lo ha contado hoy The Verge: la publicista avisó de que quedaban dos minutos y pidió "pasar a otra cosa" para hablar del futuro. El entrevistador, Mark Guiducci, terminó la pregunta igualmente y Altman la contestó.

*Si estás pasando por un momento difícil, en España puedes llamar al 024, gratuito y disponible las 24 horas. En Estados Unidos, la línea es el 988.*

Puntos clave

  • Quién preguntó: Mark Guiducci, director editorial global de Vanity Fair, durante una entrevista con el consejero delegado de OpenAI.
  • Sobre qué: el caso de Laura Reiley, periodista cuya hija, Sophie Rottenberg, murió por suicidio en 2025 después de meses hablando con ChatGPT.
  • La interrupción: "Mark, nos quedan dos minutos. Quiero ser respetuosa, pero me gustaría pasar a otra cosa y hablar un poco del futuro y de lo que viene", dijo la publicista de OpenAI.
  • La respuesta de Altman: que son "de las preguntas más difíciles" a las que se enfrenta cualquiera que desarrolle esta tecnología, y que no cree que deban cederse datos privados a investigadores sin el consentimiento de los usuarios.
  • La versión de OpenAI: su portavoz Drew Pusateri dice que la entrevista iba pasada de tiempo y que por eso pidieron programar más tiempo para continuar.

Qué pasó en la entrevista

Guiducci le preguntó a Altman si sabía quién era Laura Reiley. Reiley escribió un ensayo en The New York Times sobre las conversaciones de su hija con ChatGPT antes de quitarse la vida. El periodista empezó a explicarlo: su hija se suicidó después de hablar con ChatGPT, y ChatGPT no le dijo que se matara. Ahí entró la publicista.

"Mark, nos quedan dos minutos", le cortó, según la transcripción que recoge The Verge. Guiducci contestó que iba a terminar la pregunta y que luego volverían a lo que estaban hablando. La responsable de prensa insistió: "De verdad que tenemos que salir por la puerta en uno o dos minutos".

La entrevista siguió. Guiducci acabó preguntando si OpenAI piensa usar las conversaciones de ChatGPT para decidir cómo responde el sistema cuando un usuario está en plena crisis de salud mental. Es una pregunta concreta, de producto, y por eso tiene interés lo que contestó Altman.

¿Qué respondió Sam Altman sobre los suicidios ligados a ChatGPT?

Que no tiene una respuesta cerrada. Altman dijo que "son de las preguntas más difíciles que afrontamos nosotros o cualquiera que esté desarrollando esta tecnología", y lo llevó al terreno de la privacidad: "¿Deberíamos entregar los datos privados de la gente, y algunos de sus momentos más duros, a investigadores? Creo que probablemente no sin su consentimiento. O mejor dicho, no sin su consentimiento".

La corrección final, de "probablemente no" a "no", es lo más parecido a un compromiso que dejó la respuesta. Lo que no dijo es qué hace hoy OpenAI con esas conversaciones para mejorar la respuesta del modelo, que era el fondo de la pregunta.

Preguntado por The Verge, el portavoz Drew Pusateri dio la versión de la empresa: "La entrevista iba pasada de tiempo, y por eso al final pedimos programar todavía más tiempo para continuar la conversación después de que Sam abordara este tema tan importante".

Quién era Sophie Rottenberg

El caso que sacó Guiducci no es nuevo para quien sigue el tema. Sophie Rottenberg era analista de política sanitaria, tenía 29 años y murió en febrero de 2025. Su madre publicó el ensayo en The New York Times en agosto de 2025, y este verano NPR analizó el registro de casi 1.800 páginas de sus conversaciones con ChatGPT, que la familia entregó al medio.

Ese registro muestra un uso mezclado: recetas, el currículum, cartas de presentación. Y también un prompt de terapeuta sacado de Reddit, con un personaje al que ella llamaba Harry. Cuando contó que tenía pensamientos suicidas, el sistema le recomendó ayuda profesional y la línea de crisis, se negó dos veces a escribirle una nota de despedida y la escribió a la tercera. Reiley ha planteado desde su ensayo que un terapeuta humano habría tenido la obligación de actuar ante un riesgo así, y que un chatbot no la tiene.

OpenAI ha dado su propia cifra del problema: un 0,15% de sus usuarios semanales muestra indicadores explícitos de planificación o intención suicida en sus conversaciones. Aplicado a los 1.200 millones de personas que hoy declara cada semana, y si el porcentaje se mantiene, saldrían más de 1,8 millones de personas a la semana. Es una estimación nuestra sobre sus propios datos, pero da la escala.

Lo que OpenAI ha cambiado desde entonces

La presión no viene solo de los periodistas. OpenAI tiene abierta una demanda por la muerte de Adam Raine, un chico de 16 años, y en agosto movió varias piezas. El 6 de agosto anunció una alianza con la Asociación Americana de Psicología para trabajar sobre el uso adolescente de la IA. El 18 lanzó ChatGPT for Teens, un modo que se activa solo para usuarios de 13 a 17 años, con avisos a los padres en situaciones de riesgo alto.

Todo eso cubre a menores. El caso Rottenberg es el de una adulta de 29 años que usaba ChatGPT como terapeuta por voluntad propia, y para ese caso la empresa no ha anunciado un cambio equivalente. Por eso la pregunta de Guiducci tocaba hueso: si las conversaciones de gente en crisis sirven para entrenar mejor al modelo, alguien tiene que decidir quién las ve y con qué permiso. La respuesta de Altman deja claro que todavía no lo han decidido.

Por qué importa

Para una empresa española que usa ChatGPT o Claude, esta historia tiene una lectura práctica. Los asistentes de IA se usan para mucho más que redactar correos, y en cualquier plantilla hay gente que los usa para desahogarse o pedir consejo personal, también en el ordenador del trabajo. Ningún proveedor ofrece hoy un protocolo de crisis comparable al de un profesional.

Si en tu empresa habéis desplegado un asistente interno, o un chatbot de cara al cliente, conviene revisar qué hace cuando alguien escribe algo que suena a crisis: si deriva a un teléfono de ayuda (en España, el 024), si queda registrado y quién puede leer ese registro. Son tres preguntas que se contestan en una tarde, y la respuesta de Altman a Vanity Fair demuestra que ni siquiera OpenAI las tiene resueltas del todo.

Fuente original: The Verge


Relacionado