SpaceXAI adopta la CPU Vera de Nvidia para orquestar los agentes que hay detrás de Grok

SpaceXAI adopta la CPU Vera de Nvidia para orquestar los agentes que hay detrás de Grok
Fuente: nvidianews.nvidia.com

SpaceXAI va a desplegar las CPUs Vera de Nvidia para mover la parte de sus agentes que no hace ninguna GPU: orquestar herramientas, ejecutar código y masticar datos. Nvidia vende Vera como la primera CPU diseñada específicamente para agentes de IA, con 88 núcleos y hasta 1,2 TB/s de ancho de banda de memoria.

Puntos clave

  • 88 núcleos Olympus diseñados por Nvidia, con Spatial Multithreading y memoria LPDDR5X.
  • Hasta 1,2 TB/s de ancho de banda de memoria.
  • Hasta 1,8 veces más rápida que CPUs x86 ejecutando tareas, según Nvidia.
  • SpaceXAI la usará para ampliar la infraestructura que hay detrás de Grok, con la plataforma Vera Rubin.

La parte del agente que no es el modelo

Cuando un agente trabaja, el modelo es solo un trozo del tiempo total. El resto se va en cosas muy poco glamurosas: abrir ficheros, llamar a una API, esperar respuesta, ejecutar un script, parsear lo que vuelve, decidir la siguiente llamada.

Todo eso corre en CPU. Y en un despliegue grande, esa CPU se convierte en el cuello de botella mientras las GPUs esperan.

Mike Nicolls, de SpaceXAI, lo dice sin adornos en el anuncio: Vera les da el rendimiento de CPU y el ancho de banda de memoria para ejecutar cantidades enormes de orquestación. Ian Buck, por parte de Nvidia, lo resume en que Vera le da a los agentes el rendimiento de CPU necesario para actuar en tiempo real.

El diseño va en esa dirección. Spatial Multithreading reparte el trabajo entre hilos de forma que las tareas cortas y con muchos saltos (que es exactamente el perfil de la orquestación) no se pisen. Y el ancho de banda de 1,2 TB/s existe porque un agente con contexto largo mueve estructuras de datos gigantes de un lado a otro.

Grok necesita la infraestructura

El contexto de esta compra explica por qué SpaceXAI aparece en la nota de Nvidia y no otro cliente.

SpaceX cerró en agosto la compra de Cursor por 60.000 millones de dólares, pagados en 389 millones de acciones. Esa operación mete a la empresa de golpe en el negocio de los agentes de programación, que es el que más cómputo de orquestación consume por usuario.

Y el propio Musk ha admitido esta semana ante la plantilla de Cursor que Grok se ha quedado por detrás de la competencia. Comprar la CPU pensada para agentes es coherente con querer cerrar esa distancia por la vía de la infraestructura.

El satélite sigue en el plan

La nota confirma también que el satélite Starmind se basa en un sistema Vera Rubin NVL72 adaptado a cómputo orbital.

Ese proyecto ya se conocía: SpaceX y Nvidia presentaron en agosto el diseño Starmind AI1, satélites de 120 kW para poner centros de datos en órbita. Lo nuevo aquí es que la CPU Vera entra en la ecuación y que Musk ha situado el primer lanzamiento en 2027.

La lógica del proyecto sigue siendo la misma: en órbita hay sol permanente y no hay que pelearse con un operador eléctrico ni con una licencia municipal. Los problemas también siguen siendo los mismos, empezando por disipar 120 kW de calor en vacío.

Por qué importa

Hay una lectura práctica aquí para cualquiera que esté montando agentes en su empresa, y no tiene nada que ver con satélites.

Si has desplegado un agente propio y va lento, tu primer instinto será culpar al modelo o pedir más GPU. Mira antes el otro lado. En la mayoría de despliegues internos que se atascan, el tiempo no se va en generar tokens, se va en las llamadas a herramientas, en esperar a una API lenta y en procesar lo que vuelve.

Mide los tramos por separado antes de gastar. Si el 70% del reloj está fuera del modelo, cambiar de modelo no te va a arreglar nada.


Relacionado