AT&T desvía el 40% del uso interno de IA a modelos abiertos y recorta un 56% el coste en programación

AT&T desvía el 40% del uso interno de IA a modelos abiertos y recorta un 56% el coste en programación
Foto: Scott Rodgerson / Unsplash

AT&T está desviando una parte creciente de su uso interno de IA hacia modelos abiertos para contener lo que paga a Anthropic y OpenAI, según adelanta The Information. El medio habla de recortes de entre el 80% y el 90% en algunas aplicaciones gracias al enrutado inteligente, con el objetivo de mantener plano el gasto con los laboratorios de frontera mientras el uso interno crece.

Es un reporte de un medio, no un comunicado de la operadora. AT&T no ha confirmado las cifras.

Puntos clave

  • The Information informa de que AT&T usa modelos abiertos para frenar la factura de Anthropic y OpenAI.
  • El enrutado inteligente habría recortado costes entre un 80% y un 90% en algunas aplicaciones.
  • El analista Hesamation afirma en X que la operadora enruta ya el 40% del uso interno de sus empleados a modelos abiertos.
  • En programación, esa vía habría bajado el coste un 56% con una pérdida de calidad de alrededor del 2%.
  • El objetivo declarado no es gastar menos en total, sino mantener plano el gasto con los laboratorios mientras sube el volumen.

Dos fuentes, dos grados de certeza

Conviene separarlas. Lo del 80-90% de ahorro en algunas aplicaciones y la intención de congelar el gasto con OpenAI y Anthropic viene de The Information, con su reporteo de fuentes internas. Los números concretos del 40% de enrutado y del 56% de ahorro en código con 2% de pérdida de calidad los pone Hesamation en X, y no están confirmados por la compañía.

El 2% es el dato que más se ha comentado, y con razón: si una empresa mide que puede perder dos puntos de calidad en tareas de programación a cambio de gastar la mitad, el debate sobre qué modelo usar deja de ser filosófico.

El enrutado se está volviendo una categoría

Lo de AT&T no pasa solo. En las últimas semanas la capa que decide qué modelo atiende cada petición se ha convertido en un mercado con dinero de verdad detrás.

Stripe acordó comprar OpenRouter, la pasarela original, por 7.000 millones de dólares. Ramp lanzó su propio enrutador, que elige modelo por coste, por puntuación en tests o por dificultad de la tarea, y lo ofrece gratis hasta final de 2026. Snowflake dice ganar un tercio mandando cada tarea al modelo más barato que la resuelva. Y Callosum acaba de levantar 100 millones para optimizar la combinación de modelo y chip detrás de cada petición.

La razón de fondo es que los modelos abiertos han cerrado la distancia en las tareas de volumen. Qwen, Gemma y compañía resuelven un resumen, una clasificación o un correo con calidad suficiente, y esas son la mayoría de las peticiones de una empresa grande.

El problema no es técnico, es de medición

Aquí está la parte incómoda. Un enrutador solo funciona si sabes qué es "suficientemente bueno" para cada tarea. Si tu equipo no tiene una forma de medir eso sobre trabajo real, el enrutador deja de ser un optimizador y pasa a ser una ruleta: unas veces acierta y otras te devuelve algo peor sin que nadie se entere hasta que llega al cliente.

Ese es el trabajo que no aparece en las notas de prensa. AT&T pudo medir un 2% de pérdida en programación porque tenía con qué medirla.

Por qué importa

Para una empresa española que ya tiene volumen de uso, el patrón es replicable sin tocar arquitectura: separa las tareas rutinarias de las difíciles, y manda las primeras a un modelo barato.

El orden práctico es sencillo. Si pagas por suscripción y es la primera vez que haces algo, tira de razonamiento alto. Si pagas por token vía API, empieza por el modelo pequeño y sube solo cuando falle. En la mayoría de flujos internos (resumir, clasificar, redactar borradores a partir de bullets) el modelo pequeño llega, y la diferencia de factura a fin de mes no es del 5%.

Lo que hay que construir antes es la vara de medir. Sin eso, cambiar de modelo para ahorrar es apostar.


Relacionado