Cerebras ha metido Qwen3.8-27B en sus endpoints públicos a unos 1.500 tokens por segundo. Su catálogo de modelos lista el modelo como `qwen-3.8-27b`, con 27.000 millones de parámetros, 64k de contexto en la capa gratuita y 128k en la de pago. Es el modelo abierto de Alibaba corriendo sobre las obleas de Cerebras, y el hilo de desarrolladores que lo ha probado deja una conclusión más útil que la cifra de velocidad.
Puntos clave
- La velocidad. Unos 1.500 tokens por segundo según la ficha de Cerebras. Los desarrolladores que lo midieron reportan cifras dispares, con un caso documentado de 890 tokens por segundo de mediana y 0,64 segundos hasta el primer token.
- El contexto. 64k en la prueba gratuita, 128k pagando. El modelo soporta 262k de forma nativa, así que la mitad larga se queda fuera.
- Los límites. La capa Developer da 300 peticiones por minuto, 150K tokens no cacheados por minuto y 450K totales, sin topes por hora ni por día. La gratuita se queda en 5 peticiones por minuto y 1 millón de tokens al día.
- El precio que citan. 0,99 dólares por millón de tokens de entrada y 1,49 por millón de salida, según los desarrolladores del hilo de Hacker News, que acumula 690 puntos y 228 comentarios.
- La pega gorda. Los tokens cacheados cuentan igual que los no cacheados a efectos de coste. Hay caché de prompt, pero no descuenta la factura.
Qué modelo es y por qué en Cerebras
Qwen3.8-27B es el modelo denso que Alibaba abrió en agosto con 61,7% en SWE-bench Pro y 73,0 en Terminal-Bench. Es de los pocos abiertos que aguanta trabajo de programación sin quedarse a medias, y lo bastante pequeño para que una versión cuantizada corra en 22 GB de memoria local.
Cerebras aporta la otra mitad. Su arquitectura mete cientos de miles de núcleos en una sola oblea de silicio, así que el modelo entero cabe sin repartirlo entre chips y sin pagar el peaje de comunicación entre ellos. Es lo mismo que ya hace con GPT-5.6 Sol para OpenAI a 750 tokens por segundo, y lo que la compañía prometió escalar con el CS-4 y sus tres WSE-3 Turbo.
Un detalle que Cerebras se molesta en documentar y que conviene leer: dice que sirve los modelos originales sin podar, y que la cuantización se aplica solo al almacenamiento de los pesos. Activaciones, atención y caché KV se quedan en precisión completa, con descuantización al vuelo en las capas sensibles. Sus modelos podados con la técnica REAP están en Hugging Face para investigación, fuera de la API de producción.
Lo que dicen los que lo han pagado
Aquí es donde el hilo aporta más que la nota de producto. Las mediciones de velocidad reales bailan bastante según la carga, y hay quien reporta que la entrada se procesa despacio aunque la salida vuele.
La queja que se repite es económica. Un desarrollador comparó una sesión de trabajo: 1,60 dólares en Cerebras contra 0,29 en alternativas vía OpenRouter. Otro hizo la cuenta redonda y la dejó en 5,6 veces el coste por 2,8 veces la velocidad.
El culpable es la caché. La documentación de Cerebras explica que los tokens cacheados no cuentan contra el límite de tokens no cacheados por minuto, lo cual sube el techo de throughput. Lo que no hacen es bajar la factura. En un flujo agéntico, donde el mismo contexto largo se reenvía en cada vuelta, eso multiplica el gasto por el número de pasos.
Los límites también aprietan más de lo que parecen. Con 450K tokens totales por minuto, un desarrollador contó que agotó el cupo en unos 90 segundos de trabajo agéntico. Y el recorte de 262k a 128k de contexto quita justo lo que hace atractivo a este modelo para leer una base de código entera. Cuando se pasa el tope, la API devuelve un 429 e indica en el mensaje si lo que se agotó fue el límite de tokens no cacheados o el total.
Cómo se prueba sin comprometerse
La capa gratuita da para una evaluación honesta, no para trabajar. Son 5 dólares en créditos, que Cerebras solo entrega tras añadir un método de pago verificado y que caducan a los 30 días. Sin ese método de pago, ni el Playground ni la API se activan.
Los límites de esa capa son 5 peticiones por minuto, 30K tokens no cacheados por minuto, 90K totales y un millón de tokens al día, con un máximo de 2 imágenes por petición y 10 MiB de carga. Sirve para medir latencia real con tus prompts y comparar calidad de salida. No sirve para un piloto con usuarios dentro.
Pasar a Developer arranca en 10 dólares y quita los topes por hora y por día. Y si no quieres abrir cuenta, Cerebras se puede consumir desde AWS Marketplace, OpenRouter, Hugging Face y Vercel, que es la vía razonable si ya tienes facturación centralizada en alguno de ellos.
Por qué importa
La velocidad de inferencia cambia lo que puedes poner delante de una persona. Por debajo de un segundo, un asistente deja de ser algo que consultas y pasa a ser algo que interrumpes a mitad de frase. Para un buscador interno, un clasificador de tickets o un copiloto dentro de una herramienta que ya usa tu equipo, esa diferencia decide si la gente lo usa o lo abandona.
Donde la cuenta no sale es en el trabajo agéntico largo, que es justo donde más apetece la velocidad. Si tu proceso reenvía el mismo contexto veinte veces, pagar cada token como si fuera nuevo convierte la factura en el límite real, mucho antes que la latencia.
La lectura práctica para una empresa: probar Cerebras en lo interactivo y de contexto corto, donde el usuario espera delante de la pantalla, y dejar el batch nocturno y los agentes de contexto largo en un proveedor cuya caché sí descuente. Son dos facturas distintas para dos trabajos distintos, y mezclarlas es la manera rápida de que un piloto barato se convierta en una sorpresa a fin de mes.
Fuente original: inference-docs.cerebras.ai
Relacionado
