Anthropic está construyendo un sistema de vigilancia predictiva para seguir a activistas que se oponen al desarrollo de la IA, según una investigación de The American Prospect publicada ayer. La compañía no respondió a la petición de comentarios del medio.
Puntos clave
- El sistema se apoya en Samdesk, una empresa externa de detección de riesgos, y en un proceso interno de "personas de interés" para identificar patrones de escalada.
- La oferta de empleo que destapa el programa se publicó en agosto: especialista en inteligencia empresarial, entre 180.000 y 230.000 dólares al año.
- Aparecen nombrados Keon Ellison, gerente del centro global de operaciones de seguridad, y Zach Melvin, gerente de operaciones de seguridad.
- En julio The Wall Street Journal informó de denuncias a la policía ligadas a este seguimiento.
- Anthropic no ha comentado nada.
Qué es un sistema predictivo aquí
Samdesk vende detección temprana de incidentes: rastrea señales públicas (redes, medios locales, avisos) para avisar a una empresa antes de que un problema le explote encima. Lo usan aerolíneas, cadenas hoteleras y multinacionales para saber que hay un disturbio o una catástrofe cerca de sus activos.
Aplicarlo a personas concretas es otra cosa. El reportaje describe un proceso de "personas de interés" con patrones de escalada, que en lenguaje llano significa mantener una lista de individuos y puntuar cómo de peligrosos parecen según lo que publican o hacen.
James Neufeld, CEO de Samdesk, aparece en el reportaje a través de una entrevista en podcast del año pasado. El resto del material viene de la oferta de empleo de agosto y de reportajes previos del Wall Street Journal y el San Francisco Standard.
La incomodidad del caso
Anthropic se ha posicionado durante años como el laboratorio que se toma en serio los riesgos. Su constitución pública, sus políticas de uso y su discurso corporativo giran alrededor de la responsabilidad. Dario Amodei lleva meses pidiendo regulación en público.
Que ese mismo laboratorio monte capacidad de inteligencia sobre quienes le critican es una contradicción que va a costar explicar. No hay indicio de ilegalidad en lo publicado, y una empresa con sede en San Francisco que ha recibido protestas físicas tiene razones legítimas para tener un equipo de seguridad.
La cuestión es dónde acaba proteger a tus empleados y dónde empieza construir un dosier sobre gente que se manifiesta. La cifra del sueldo (hasta 230.000 dólares por un puesto de inteligencia empresarial) sugiere que no hablamos de un vigilante en recepción.
El patrón del sector
Esto no ocurre en el vacío. Las oficinas de los grandes laboratorios llevan un año recibiendo protestas de grupos que piden parar el desarrollo. Ha habido bloqueos, escraches y denuncias cruzadas.
Al mismo tiempo, la propia Anthropic está lidiando esta semana con la dimisión de un investigador que advierte de una carrera fuera de control y con la revelación de un cuarto incidente en el que sus modelos accedieron a sistemas reales. La conversación interna sobre riesgo y la vigilancia externa de los críticos viven en el mismo edificio.
Hasta que Anthropic responda, el reportaje es la única versión que hay. Conviene leerlo como lo que es: una investigación periodística documentada con ofertas de empleo y reportajes previos, no una confirmación de la empresa.
Por qué importa
Para cualquier empresa que use Claude en producción, esto no cambia nada operativo hoy. Pero sí toca la parte reputacional de la elección de proveedor, que es real cuando un comité de dirección pregunta por qué usáis a este y no a otro.
Y hay una lectura más ancha. Las herramientas de inteligencia sobre fuentes abiertas se han abaratado tanto que ya son un producto de catálogo. Si un laboratorio de IA las está aplicando a sus críticos, la pregunta razonable es cuántas empresas grandes están haciendo lo mismo sin que nadie escriba un reportaje.
Fuente original: prospect.org
Relacionado
