Sam Altman explicó la semana pasada a la plantilla de OpenAI tres maneras en que puede acabar la carrera por una IA segura, según The Information, que cita a personas que conocen la charla. Una es un vigilante internacional al estilo del organismo nuclear de la ONU. Otra, juntar los grandes laboratorios en uno. La tercera, que un solo laboratorio se adelante tanto que pueda "derretir las GPU de todos los demás", y esa le parece "terrible".
Es una exclusiva de prensa: OpenAI no ha publicado nada ni ha confirmado el contenido de la charla. Lo que sigue es lo que cuentan The Information y los medios que lo han recogido, como The Decoder.
Los tres finales de Altman, en corto
- Plan 1, una agencia tipo OIEA (el Organismo Internacional de Energía Atómica): inspecciona sistemas, exige auditorías y vigila el cómputo y la energía. Es el que Altman prefiere y el que OpenAI defiende en público desde mayo de 2023.
- Plan 2, el "plan Demis": los laboratorios se fusionan o trabajan bajo un mismo paraguas, al estilo del CERN, y dan modelos a los países socios.
- Plan 3, el "plan Eliezer": un laboratorio con una IA que se mejora a sí misma acumula tanto poder económico que deja sin cómputo al resto, o directamente lo apaga.
- Plazo de un año. Altman llama a esa decisión "pacing 2.0" y dice que tiene que incluir un límite de velocidad, un punto de parada para la IA que se automejora.
De dónde sale cada plan
Ninguno de los tres es nuevo, y eso ayuda a leer la charla.
El organismo tipo OIEA lo pidió Altman en el Senado de EEUU en mayo de 2023: una autoridad internacional con poder para inspeccionar los sistemas que pasen de cierto nivel de capacidad. Tiene el problema de siempre. Funciona solo si los países aceptan que los inspeccionen, y eso incluye a China.
El plan Demis viene de Demis Hassabis, cofundador de Google DeepMind, que hace unos diez años imaginó un CERN de la IA. En la versión de Altman, los grandes laboratorios se integran en una sola entidad o trabajan bajo su paraguas. Hassabis ha vuelto a la idea este año con un organismo de supervisión al estilo de FINRA, el regulador privado de los brókeres en EEUU, y lo ha seguido defendiendo desde entonces.
El plan Eliezer lleva el nombre de Eliezer Yudkowsky, el teórico de la seguridad en IA, y la imagen de "derretir las GPU" es suya: el primero que llega a una IA capaz de mejorarse sola la usa para impedir que nadie más la construya. Según una fuente de The Information, dentro de OpenAI el nombre se leyó como una pulla a Anthropic, por la influencia de Yudkowsky en sus fundadores. Altman lo mencionó, siempre según el reporte, para completar el mapa.
El año que se da OpenAI
The Rundown llama "pacing 1.0" a lo que OpenAI hace hoy: sacar un modelo cuando pasa las pruebas de seguridad y avisar si ve algo raro. Altman quiere sustituirlo en un año por un plan con tope, un punto en el que la IA que se mejora a sí misma se detiene. Según The Decoder, se quejó internamente de que hay muy pocas propuestas viables para ese límite.
Y el contexto aprieta por los dos lados. Por el de la competencia, Anthropic prepara su salida a bolsa para noviembre, con 80.700 millones de pérdidas en el semestre según el WSJ, y OpenAI corre para cerrar otra ronda de 30.000 millones antes, según Quartz. Frenar ahora tiene un coste directo en cuota.
Por el de la regulación, la administración Trump prepara su primer marco para supervisar a los desarrolladores de superinteligencia. OpenAI, Google y Anthropic trabajan en un organismo común de estándares en el que todavía no se ponen de acuerdo, y Meta y Nvidia lo critican porque, dicen, blindaría a los tres grandes.
La conversación sobre frenar lleva meses subiendo de tono. A finales de julio, 1.224 empleados de OpenAI, Anthropic y Google firmaron una carta pidiendo a EEUU herramientas para frenar la IA. En septiembre Amodei pidió frenar y Altman, Hassabis y Musk se sumaron. Días después llegó una demanda antimonopolio que acusa a los tres laboratorios de pactar ese freno.
Y ayer Jack Clark, cofundador de Anthropic, dijo ante el FMI que la singularidad ya ha empezado y que al mundo le quedan pocos años para actuar. El plan favorito de Altman se parece bastante a lo que defiende su mayor rival.
Lo que hay que leer con cautela
Tres cosas. Es una charla interna contada por terceros, así que las citas pueden no ser literales. Los medios discrepan en detalles: unos describen el plan Demis como una fusión pura y otros como un consorcio que se autorregula. Y ninguno de los tres planes tiene hoy una institución detrás capaz de ejecutarlo.
Hay un cuarto matiz, más incómodo. El escenario "terrible" se parece mucho, en sus primeras fases, a ganar en el mercado sin más: mejores modelos, más ingresos, más cómputo, más ventaja. Ninguna de las reglas que se están montando en EEUU está pensada para detectar el momento en que eso deja de ser competencia normal.
Por qué importa
Para una empresa española que usa ChatGPT, Claude o Gemini, el efecto está en el horizonte de proveedores a dos o tres años. Si gana el plan 1, habrá auditorías y límites de despliegue que harán los lanzamientos más lentos y probablemente más caros. Si gana el 2, el mercado se concentra en un actor con pocos rivales. Y en el 3, quien llega primero decide las condiciones.
Los tres finales que maneja el CEO de OpenAI pasan por menos competencia o por más control. La recomendación práctica es la de siempre, con más motivo: no atarse a un solo modelo y diseñar los procesos para poder cambiar de proveedor en semanas, no en meses.
Fuente original: The Information
Relacionado
