OpenAI ha publicado los primeros números de Jalapeño, el chip de inferencia que lleva desarrollando con Broadcom desde octubre de 2025, y los ha pasado por un benchmark que no controla: InferenceX, de Semianalysis. El resultado es que Jalapeño devuelve más tokens por usuario y más throughput por kilovatio que los sistemas Nvidia Blackwell, que hoy son el estándar de facto para servir modelos grandes.
Richard Ho, responsable de hardware de OpenAI, lo resumió en la sesión con prensa: el chip sirve más trabajo de IA por unidad de potencia y, a la vez, devuelve las respuestas más rápido. Las dos cosas a la vez es lo interesante, porque normalmente se compran la una a costa de la otra.
Qué mide realmente InferenceX
Los benchmarks de chips de IA suelen ser marketing: cada fabricante elige la métrica que le favorece. InferenceX intenta cerrar esa puerta midiendo dos cosas que a un operador le importan de verdad.
La primera es tokens por usuario: cuánto texto genera el sistema para una persona concreta que está esperando delante de la pantalla. Es la métrica de latencia percibida.
La segunda es throughput por kilovatio: cuánto trabajo total sale del sistema por cada unidad de electricidad consumida. Es la métrica de coste, porque en un centro de datos moderno la factura de luz pesa más que la amortización del hardware.
Jalapeño gana en las dos. Eso significa que no es un chip que corre rápido a base de enchufarle más potencia, que es la forma barata de ganar una comparativa.
De dónde sale la ventaja
Los detalles técnicos que ha soltado OpenAI apuntan todos al mismo sitio: mover menos datos.
Jalapeño está diseñado para minimizar el movimiento de datos y los retrasos de comunicación entre componentes. En concreto, optimiza la fase de prefill, que es cuando el modelo procesa todo el prompt de entrada antes de empezar a escribir la respuesta, y gestiona la KV cache en local en vez de ir a buscarla fuera.
La KV cache es la memoria de trabajo del modelo dentro de una conversación: guarda lo que ya ha procesado para no recalcularlo en cada token nuevo. Cuando esa cache vive lejos del chip que la necesita, el sistema pasa más tiempo esperando datos que calculando. Con contextos largos, que hoy son la norma, ese tiempo de espera se lleva una parte enorme del presupuesto de energía.
Aquí está el matiz que explica el resultado: Nvidia diseña chips que tienen que servir para entrenar y para inferir, para modelos de lenguaje y para vídeo, para OpenAI y para los otros doscientos clientes. OpenAI diseña un chip para servir sus modelos con su patrón de uso. Es un chip peor en general y mejor en su caso concreto.
Por qué esto importa si diriges una empresa
La lectura obvia es la de siempre: OpenAI quiere depender menos de Nvidia. Es cierta y es aburrida.
La lectura útil es la del coste por token. El precio del modelo de frontera no baja porque los laboratorios sean generosos, baja porque el coste de servirlo baja. OpenAI ya recortó precios de GPT-5.6 hace unos días, y su responsable de producto habla de esa bajada como una corrección permanente, no una promoción. Un chip propio que rinde más por kilovatio es una de las palancas que hacen que esa corrección sea sostenible.
Para quien está montando cosas encima de la API, eso se traduce en una regla práctica: los cálculos de rentabilidad de un proceso automatizado que hiciste hace seis meses probablemente ya están mal, y están mal en tu favor. Procesos que descartaste por caros (revisar todos los pedidos, no una muestra; clasificar todos los tickets, no los urgentes) merecen que vuelvas a hacer los números.
Quién más está en esta partida
Jalapeño no aparece en el vacío. Los cuatro grandes compradores de GPUs llevan años intentando dejar de serlo, cada uno a su ritmo.
Google es el veterano: lleva desde 2016 con las TPU y hoy entrena y sirve Gemini casi entero con silicio propio. Amazon tiene Trainium para entrenamiento e Inferentia para inferencia, y es la infraestructura sobre la que Anthropic ha ido moviendo parte de su carga. Meta tiene MTIA, más discreto, centrado en los modelos de recomendación que mueven su publicidad.
Lo que hace distinto el caso de OpenAI es la vía: en lugar de montar un equipo de silicio desde cero, se ha apoyado en Broadcom, que lleva décadas diseñando chips a medida para terceros. Es más rápido y más barato que el camino de Google, y explica que en apenas diez meses desde el anuncio de octubre de 2025 haya números públicos.
Para Nvidia esto no es una amenaza inmediata. Sigue vendiendo todo lo que fabrica y acaba de subir un 15% el precio de sus servidores de IA, que no es el gesto de una empresa preocupada por la competencia. Pero sí marca la dirección: sus mayores clientes están construyendo alternativas para la parte del trabajo que más volumen mueve.
Lo que todavía no sabemos
Conviene bajar las expectativas en el calendario. OpenAI habla de volúmenes muy pequeños a finales de 2026 y de despliegue serio en 2027. Entre un benchmark bueno y un centro de datos lleno de estos chips hay dieciocho meses de fabricación, validación y software.
Y hay una parte que nadie enseña en estos anuncios: el software. Una GPU de Nvidia viene con CUDA, veinte años de librerías y una comunidad enorme que ya ha resuelto los problemas raros. Un chip nuevo llega con un compilador propio y con la mitad de los casos límite por descubrir. Ese trabajo no sale en los benchmarks y se paga en meses de ingeniería.
Tampoco hay cifras absolutas públicas: sabemos que gana a Blackwell en esas dos métricas, no por cuánto. Y Nvidia no se queda quieta: la plataforma Vera Rubin, que SpaceXAI acaba de adoptar para sus centros de datos y para su primer satélite de cómputo, es exactamente la respuesta a este tipo de presión.
El dato que sí es firme es este: por primera vez, un chip diseñado por un laboratorio de IA para servir sus propios modelos gana a Nvidia en su terreno, medido por alguien de fuera. Eso no había pasado. Google lleva años con las TPU y nunca ha aceptado esa comparación en público.
Si el patrón se repite (Anthropic con Trainium en Amazon, Meta con MTIA), lo que estamos viendo es el principio del fin del monocultivo de Nvidia en inferencia. En entrenamiento la cosa sigue igual, porque ahí la flexibilidad importa más que la eficiencia. Pero la inferencia es donde se gasta el dinero cuando un producto funciona, y ahí la especialización gana.
Fuente original: TechCrunch
Relacionado
