Anthropic monta equipo propio de diseño de chips y se apunta a la carrera del silicio

Anthropic monta equipo propio de diseño de chips y se apunta a la carrera del silicio
Fuente: techcrunch.com

Anthropic está contratando ingenieros para un equipo interno de diseño de chips. La empresa quiere co-diseñar hardware y modelos a la vez, para que Claude corra más rápido y más barato en silicio hecho a su medida, según TechCrunch.

Ojo con el origen de la noticia: no hay comunicado oficial. Sale de las propias ofertas de empleo de Anthropic y de un adelanto de Business Insider. La compañía no respondió a la petición de comentario.

Puntos clave

  • Las ofertas hablan de un "custom silicon team" y piden ingenieros con experiencia en diseño de chips.
  • La idea que se repite en el texto de las vacantes es el co-diseño: que el modelo y el chip se piensen juntos, no uno detrás del otro.
  • Hoy Anthropic depende de acuerdos con AWS, Google, Nvidia y AMD para acceder a cómputo.
  • OpenAI trabaja en su propio chip, Google lleva años con las TPU y Meta tiene los aceleradores MTIA.
  • Es un movimiento de contratación, no un chip anunciado. Del primero al segundo hay años.

Qué significa "co-diseñar hardware y modelos"

Hasta ahora el orden ha sido casi siempre este: alguien diseña un chip de propósito general, y los laboratorios adaptan sus modelos para exprimirlo. Nvidia manda porque su hardware y su software (CUDA) se han vuelto el terreno donde todos aprendieron a construir.

El co-diseño invierte ese orden. Si sabes exactamente qué operaciones ejecuta tu modelo, con qué precisión numérica y con qué patrón de acceso a memoria, puedes fabricar un chip que haga solo eso y lo haga muy bien. Google lo hizo con las TPU y le salió bien: entrena y sirve Gemini sobre hardware propio.

El precio de esa jugada es enorme. Diseñar silicio serio cuesta cientos de millones, tarda entre dos y cuatro años, y si tu arquitectura de modelo cambia por el camino te quedas con un chip optimizado para algo que ya no haces.

Por qué Anthropic se mete ahora

Por el gasto. Anthropic acaba de firmar 10.000 millones de dólares en cómputo con Volta, una startup de siete meses, y ya tiene compromisos abiertos con Amazon y Google. Cuando la partida de infraestructura es tu mayor coste y crece más rápido que tus ingresos, cada punto de eficiencia por chip se convierte en dinero contante.

Hay un segundo motivo, menos financiero. Depender de un único proveedor de silicio te deja expuesto a su calendario, a sus precios y a su lista de espera. Todos los laboratorios grandes han llegado a la misma conclusión a la vez, y no por casualidad.

Y hay un tercero, incómodo de decir: el hardware propio es también una carta de negociación. Nvidia trata distinto a un cliente que puede fabricarse una alternativa.

Lo que este anuncio no dice

No dice que Anthropic vaya a dejar de comprar chips a Nvidia. Ni de lejos. Los programas de silicio propio de Google y Amazon conviven con compras enormes a Nvidia, porque el hardware a medida cubre las cargas conocidas y el de propósito general cubre todo lo demás.

Tampoco dice cuándo. Contratar un equipo es el paso cero. Entre la primera vacante y un chip funcionando en producción hay, con suerte, tres años. Cualquier titular que sugiera que Anthropic va a tener chip propio pronto se está inventando la mitad.

Qué se lleva de aquí alguien que dirige una empresa

Dos lecturas.

La primera es sobre precios. Si los laboratorios están dispuestos a gastar años y cientos de millones en fabricar su propio silicio, es porque el coste de la inferencia les preocupa de verdad. Eso choca con la idea de que el precio por token va a caer solo hasta cero. Va a caer, sí, pero empujado a base de inversiones brutales, no por generosidad.

La segunda es sobre dependencia. La misma pregunta que se está haciendo Anthropic con Nvidia te la puedes hacer tú con tu proveedor de modelo. Si mañana sube el precio un 40%, o cambia los límites de uso, o retira la versión sobre la que montaste tu proceso, ¿qué haces? La respuesta sana es tener el trabajo desacoplado del modelo concreto: prompts, datos y evaluaciones guardados de forma que cambiar de proveedor sea un mal día y no un trimestre perdido.

Nosotros lo hicimos así en Barner con las automatizaciones de Odoo y en DigitalBrain con los pipelines de contenido. No por visión, por haber comido un cambio de API a destiempo.


Relacionado