IBM y Together AI firman 240 millones para un clúster de inferencia con GPUs de Nvidia

IBM y Together AI firman 240 millones para un clúster de inferencia con GPUs de Nvidia
Foto: Taylor Vick / Unsplash

Reuters informó el 11 de agosto de que IBM y Together AI han firmado un acuerdo de 240 millones de dólares para un clúster de inferencia con hardware de Nvidia. Es una operación de tamaño medio en una semana llena de cifras mucho mayores, y precisamente por eso vale la pena mirarla: enseña dónde está apretando de verdad la demanda.

Puntos clave

Inferencia, no entrenamiento

La palabra clave del acuerdo es inferencia. Durante tres años, el gasto en cómputo de IA fue casi todo entrenamiento: construir el modelo. Inferencia es lo otro, ejecutarlo cada vez que alguien le hace una pregunta.

El entrenamiento es un gasto puntual y enorme. La inferencia es un gasto recurrente que crece con el uso. Y el uso ha dejado de ser gente escribiendo en un chat: son agentes que hacen decenas de llamadas seguidas para completar una tarea. Un agente que ejecuta un flujo de trabajo de veinte pasos consume veinte veces lo que consumía una consulta.

Together AI vende exactamente eso, capacidad de inferencia sobre modelos abiertos para empresas que no quieren depender de OpenAI o Anthropic. Que IBM entre con 240 millones dice que su cliente corporativo está pidiendo esa opción.

Dónde encaja IBM

IBM lleva años vendiendo IA a la gran empresa regulada: banca, seguros, sanidad, administración pública. Clientes con requisitos de dónde vive el dato y quién lo toca.

Ese perfil de cliente encaja mal con llamar a una API pública de un laboratorio americano y bien con modelos abiertos ejecutados en infraestructura controlada. Es el mismo argumento que está empujando a Mistral a agrupar empresas europeas para comprometer cómputo del continente.

Conviene ser preciso sobre lo que no sabemos: la nota de Reuters está detrás de restricciones de acceso y el detalle operativo, número de GPUs, ubicación del clúster y calendario, no está confirmado públicamente.

La cifra, en perspectiva

240 millones parece poco al lado de los 9.100 de Anthropic con Riot o de los más de 500.000 que Nvidia acaba de articular con Wall Street. Esa comparación engaña, porque no se está comprando lo mismo.

Los acuerdos de miles de millones son de entrenamiento y de capacidad reservada a años vista: un laboratorio blindando su acceso a GPUs para construir el siguiente modelo. Un clúster de inferencia de 240 millones es infraestructura que se pone a servir peticiones de clientes desde el día uno.

Y en inferencia el retorno se mide distinto. El entrenamiento es una apuesta a que el modelo resultante valga lo que costó. La inferencia se paga con el uso que ya existe. Por eso una cifra diez veces menor puede decir más sobre demanda real que un titular de miles de millones.

Por qué importa

Para una empresa española lo relevante no es el acuerdo, es la tendencia que confirma. El dinero se está moviendo del entrenamiento a la ejecución, y el mercado está construyendo capacidad para servir modelos abiertos a clientes corporativos.

Eso significa opciones. Hasta hace poco, meter IA en un proceso regulado dejaba dos caminos: la API del laboratorio, con la conversación jurídica correspondiente, o montarlo todo en casa con el coste que eso tiene. Que IBM, Together AI, Mistral y compañía estén construyendo capacidad intermedia abre un tercero: modelos abiertos, ejecutados por un proveedor con contrato serio, sobre infraestructura con ubicación conocida.

Si vuestro bloqueo para usar IA es de cumplimiento normativo y no de tecnología, esa tercera vía es la que hay que vigilar durante los próximos meses.


Relacionado