Anthropic ha lanzado OSS Scanner, un escáner de vulnerabilidades gratuito para proyectos de código abierto que revisa el código de forma periódica con sus modelos más fuertes, Claude Mythos incluido. Es voluntario: solo lo reciben los proyectos que se apuntan. Y trae una decisión que va a dar que hablar, porque los informes llegan a los mantenedores sin que ningún humano de Anthropic los haya revisado antes. Lo ha contado hoy su equipo de Frontier Red Team en el blog oficial de Anthropic.
La razón es de capacidad. En seis meses sus modelos han encontrado más de 29.000 vulnerabilidades candidatas en software muy usado, y su equipo solo ha podido revisar a mano unas 6.000.
Puntos clave
- Qué es: un servicio de escaneo de seguridad gratuito para proyectos open source con impacto crítico en infraestructura y seguridad de usuarios. Se inspira en OSS-Fuzz, el programa de Google que lleva años buscando fallos en código abierto con fuzzers (herramientas que bombardean un programa con datos aleatorios hasta que algo se rompe).
- Qué recibe el proyecto: cada informe trae un reproductor autónomo del fallo, una explicación (con bisección para saber en qué cambio entró el bug, cuando se puede) y un parche candidato cuando lo hay.
- La letra pequeña: la salida es 100% generada por el modelo. Anthropic avisa por escrito de que algunos informes pueden ser incorrectos o inválidos.
- Quién entra: los mantenedores principales de proyectos elegibles se apuntan con un pull request en el repositorio de GitHub del programa. La admisión se decide caso por caso.
¿Puedo usar OSS Scanner en el código de mi empresa?
No. OSS Scanner es solo para proyectos de código abierto que Anthropic considere críticos, con un criterio parecido al de OSS-Fuzz. Para el código privado de una empresa, el producto es Claude Security, que va por la vía comercial.
Lo que sí te afecta, aunque no programes, es lo de abajo: casi todo el software que usa tu empresa lleva dentro piezas open source como PostgreSQL u OpenSSL. Si esas piezas se parchean antes, tú vas más seguro sin hacer nada.
Por qué Anthropic quita al humano del medio
El cuello de botella está en revisar los fallos que encuentra la máquina.
Anthropic da una cifra para medir la velocidad del cambio. En CyberGym, un banco de pruebas académico de búsqueda de vulnerabilidades, los modelos de lenguaje pasaron de encontrar menos del 20% de los fallos a principios del año pasado a más del 85% este año. Hace 18 meses los mantenedores recibían basura de la IA. Hoy reciben informes buenos, y muchos.
Con 29.000 candidatas sobre la mesa y 6.000 revisadas, la cola no se vacía nunca. Y ha pasado algo que Anthropic no buscaba: los mantenedores que recibían el primer informe verificado empezaron a pedir "mándanos todo lo que tengáis, aunque no esté revisado". Hasta hoy, Anthropic ha enviado casi 5.000 informes sin verificar a proyectos que lo pidieron así.
El argumento de fondo es de carrera. Anthropic recuerda que hoy un exploit (el código que aprovecha un fallo para atacar) se puede fabricar en minutos. El atacante también usa IA para buscar esos mismos fallos. Si el proyecto espera semanas a que un humano valide el informe, el atacante juega con ventaja.
Anthropic mantiene en paralelo su proceso de divulgación coordinada con revisión humana, sobre todo para proyectos pequeños que no tienen gente para cribar informes. OSS Scanner es la vía rápida para quien prefiere recibirlo todo ya.
Los números de la prueba
Antes de abrirlo, Anthropic lo ha probado varias semanas con decenas de proyectos. Salieron cientos de informes, y varias de las vulnerabilidades se pudieron encadenar hasta lograr ejecución remota de código sin autenticación. Es el peor escenario posible: alguien de fuera toma el control de la máquina sin tener contraseña.
Para medir la calidad, sus pentesters (los expertos que hacen de atacantes para probar defensas) revisaron 97 vulnerabilidades críticas o altas que el escáner encontró en 48 proyectos:
- 85, el 88%, pasaron el listón de su proceso de divulgación con humano.
- 11 eran reales, pero ya conocidas o repetidas dentro del mismo escaneo.
- 1 era un falso positivo.
Los proyectos que ya lo han probado cuentan algo parecido. wolfSSL, una librería de cifrado muy usada en dispositivos conectados, recibió 74 informes: todos menos dos eran válidos y cinco acabaron como CVE, el registro público de vulnerabilidades. Desde OpenSSL dicen que los informes de Anthropic, incluida la salida en bruto del modelo, son tan buenos como los que mandan personas, y a veces mejores. En PostgreSQL varios parches se pudieron usar casi tal cual.
El matiz lo pone la propia Anthropic. Algunos mantenedores le han dicho que el escáner a veces infla la gravedad o no entiende el modelo de amenazas del proyecto, es decir, marca como peligroso algo que en ese contexto no lo es. "No podemos garantizar que el escáner sea perfecto", reconocen.
Justo cuando Google cierra la puerta
El lanzamiento cae una semana después de que Google congelara su bug bounty de código abierto por el aluvión de informes automatizados, casi todos inválidos. Mismo problema visto desde los dos lados. Google paga a quien le trae fallos y se ahogó en informes de IA malos. Anthropic apuesta a que sus informes son lo bastante buenos como para mandarlos sin filtro.
La diferencia está en la calidad del informe. Un informe con el fallo reproducible y el parche al lado se verifica en minutos. Uno con una vulnerabilidad alucinada hace perder horas a un voluntario. La apuesta de Anthropic sale bien si su tasa del 88% aguanta a escala. Si no, los mantenedores pueden darse de baja, porque el servicio es voluntario.
OSS Scanner encaja en un movimiento más amplio. En agosto, Anthropic abrió Mythos 5 a los equipos de ciberseguridad y puso 35 millones de dólares en créditos para arreglar vulnerabilidades en software abierto. Ayer amplió su Cyber Verification Program a tres niveles de acceso para profesionales de seguridad verificados. Según los datos que dio con esa ampliación, los socios de Project Glasswing encontraron al menos 129.000 vulnerabilidades verificadas entre abril y julio. Además, el programa Claude for OSS regala suscripciones Claude Max 20x a mantenedores para que arreglen fallos.
Cómo apuntar un proyecto a OSS Scanner
Solo pueden hacerlo los mantenedores principales del proyecto:
1. Comprueba si tu proyecto encaja: Anthropic pide un "impacto crítico en infraestructura y seguridad de usuarios", con criterios parecidos a los de OSS-Fuzz. 2. Lee la FAQ ampliada del programa en red.anthropic.com/oss-scanner. 3. Abre un pull request en github.com/anthropics/oss-scanner siguiendo la plantilla estándar de proyecto. 4. Espera la decisión, que Anthropic toma caso por caso.
Por qué importa
Si tu empresa usa software, usa código abierto, aunque no lo sepa. La base de datos de tu ERP, el cifrado de tu web, la librería que lee los PDF. Que esos proyectos reciban auditorías gratis con un modelo del nivel de Mythos es una buena noticia para ti, aunque nunca vayas a tocar OSS Scanner.
La lección para quien gestiona un equipo es otra. Cuando la IA encuentra 29.000 problemas y tu gente puede mirar 6.000, lo que hay que decidir es qué revisa una persona y qué dejas pasar con la máquina. Anthropic ha elegido mandarlo todo y que decida el que recibe. Yo haría lo mismo en cualquier proceso donde el informe venga con la prueba adjunta: si se puede verificar en cinco minutos, no tiene sentido que espere tres semanas en la cola de nadie.
Fuente original: Anthropic
Relacionado
