Claude Desktop ya puede hablar con modelos que corren en tu propio portátil. Ollama publicó la configuración que convierte su aplicación en el proveedor de modelos de la app de escritorio de Anthropic, con un interruptor de tres pasos.
Puntos clave
- Se activa desde la propia app de Ollama: abrir Ollama, seleccionar Claude, activarlo. Ollama configura el gateway solo.
- Sirve cualquier modelo dentro de Ollama, tanto los abiertos que corren en tu máquina como los de su nube.
- Puedes alternar con los modelos de Anthropic y volver a la configuración anterior sin romper nada.
- Ollama afirma que la telemetría viene desactivada por defecto y que mantiene política de cero retención de datos.
- Con un modelo local, los prompts no salen del equipo.
Qué cambia de verdad
Claude Desktop es la aplicación de escritorio de Anthropic, la que mucha gente tiene abierta todo el día al lado del navegador. Hasta ahora, la parte que piensa estaba siempre al otro lado de la red, en los servidores de Anthropic.
Con esto, la interfaz se separa del motor. Sigues teniendo la ventana de Claude, con sus conversaciones y sus conexiones a herramientas, pero por debajo puede haber un Qwen o un Llama corriendo en tu máquina.
Lo interesante es dónde te deja eso. La aplicación buena, que es difícil de hacer, la pone Anthropic. El modelo, que es la parte cara y la que manda tus datos fuera, lo eliges tú.
Ollama llega a esto con posición. En agosto su CEO afirmó que el software ya corre en el 80% de las empresas del Fortune 500, casi siempre por la vía del equipo técnico que se lo instala sin pedir permiso.
La parte de privacidad, con sus matices
Aquí conviene ser exacto, porque es donde más se exagera.
Si eliges un modelo que corre en tu ordenador, el texto no sale de tu ordenador. Ese es el caso fuerte y no tiene letra pequeña: no hay proveedor que registre tu conversación porque no hay red de por medio.
Si eliges un modelo de la nube de Ollama, tus datos van a Ollama. La empresa dice que aplica cero retención y que la telemetría viene apagada por defecto, pero eso es una política, no una imposibilidad física. Son dos niveles de garantía distintos y merece la pena saber en cuál estás.
Para un despacho que maneja documentos de clientes, para un equipo médico o para cualquiera que trabaje con datos que no pueden salir del edificio, la opción local es la única que resuelve el problema de raíz.
Cuánto vas a notar la diferencia
Sin adornos: un modelo abierto de 30.000 millones de parámetros corriendo en un portátil no es Opus. En razonamiento largo, en código complejo y en tareas con mucho contexto, la diferencia se nota desde la primera hora.
Donde sí aguantan bien es en el trabajo repetitivo que ocupa la mayor parte del día de mucha gente: resumir, reformular, extraer campos de un texto, clasificar, traducir, sacar un borrador de email. Eso lo hace un modelo local sin despeinarse y sin coste por token.
El reparto sensato es ese. Lo rutinario y lo sensible, en local. Lo difícil, a los modelos grandes. Y ahora los dos caminos caben en la misma ventana, que es justo lo que quita fricción para adoptarlo.
Hace falta hardware, eso sí. Un Mac con memoria unificada suficiente o una máquina con GPU decente. Con 16 GB corres modelos pequeños y se nota; a partir de 32 GB empieza a ser cómodo.
El patrón que hay detrás
Esto es la tercera vez este año que una pieza de software separa la interfaz del modelo, y empieza a parecer una dirección y no una casualidad.
Durante dos años el modelo y la aplicación venían soldados. Comprabas ChatGPT y te llevabas los modelos de OpenAI. Comprabas Claude y te llevabas los de Anthropic. La elección de proveedor y la elección de herramienta eran la misma decisión.
Cuando esas dos decisiones se separan, la interfaz compite por ser buena interfaz y el modelo compite por precio y por calidad, cada uno en su carril. Para el que paga, eso es mejor: puedes quedarte con la app que le gusta a tu equipo y cambiar lo de debajo el día que otro modelo te salga a mitad de precio.
Ollama no ha inventado nada aquí, se ha colocado en el sitio correcto. Su producto no es un modelo, es la capa que hace que correr modelos abiertos en local sea cuestión de un comando. Cuantas más aplicaciones acepten un proveedor externo, más vale esa capa.
Qué haría yo con esto esta semana
Si tienes un equipo trabajando con Claude Desktop y facturas suficiente como para que el consumo de tokens aparezca en una hoja de cálculo, hay una prueba barata que hacer.
Coge las tres tareas que más veces al día hace tu equipo con la IA. Las de verdad, las que se repiten, no las espectaculares. Pásalas por un modelo local durante una semana y mide dos cosas: cuántas veces el resultado vale sin retocar, y cuánto baja la factura.
Mi apuesta es que en una parte de esas tareas el modelo local llega perfectamente y nadie se entera del cambio. En el resto vas a querer el modelo grande, y está bien que así sea.
Y hay un segundo motivo para probarlo que no es de coste. Tener un modelo que funciona sin conexión y sin depender del precio que ponga un proveedor es una forma de no quedarte atado. Los precios de la IA llevan un año moviéndose en las dos direcciones, y el que tiene una alternativa montada negocia distinto que el que no.
Fuente original: ollama.com
Relacionado
