Garrett Langley, consejero delegado de Flock Safety, salió el fin de semana a pedir un "compromiso" nacional entre privacidad y seguridad mientras su empresa encadena cancelaciones de contratos, sabotajes de cámaras y una propuesta de prohibición firmada por Bernie Sanders. Lo recogió TechCrunch el 23 de agosto.
Puntos clave
- Langley, en Fox News: "Cuando la gente habla solo de una de las dos cosas, privacidad o seguridad, está priorizando lo que no toca, y lo que tenemos que priorizar como país es el compromiso".
- The Washington Post documentó 46 casos de agentes acusados de usar Flock para fines no autorizados, incluido espiar y acosar a exparejas.
- Flock ha bajado la retención por defecto de 30 a 7 días y exige código de caso para consultar datos. Ambas cosas se saltan activando el modo Evidencia.
- Bernie Sanders pide prohibir la tecnología. Tres congresistas republicanos han registrado una ley contra la compra federal de vigilancia automatizada.
De qué va el producto
Flock vende lectores automáticos de matrículas: cámaras en postes que fotografían cada coche que pasa, leen la matrícula y guardan el registro con hora y sitio. Miles de departamentos de policía estadounidenses tienen acceso a esa red, que funciona como un buscador de dónde ha estado cualquier vehículo.
Langley defiende el resultado con dos cifras que repite en cada entrevista: más de un millón de delitos resueltos y 10.000 personas desaparecidas localizadas. Son números difíciles de discutir y también difíciles de auditar, porque los aporta la empresa.
El problema que le ha estallado no es el producto funcionando bien. Es el producto funcionando exactamente como está diseñado, en manos de 46 agentes que lo usaron para lo que les dio la gana. Un sistema que permite a un policía buscar la matrícula de su expareja sin justificar por qué es un sistema con un fallo de diseño, no con unas manzanas podridas.
Langley lo reconoce a medias. Dijo en CBS News "pido perdón, me mata que pasara por eso" refiriéndose a una víctima concreta, y a continuación "no creo que Flock creara el abuso policial". Las dos frases seguidas resumen la posición: responsabilidad emocional, ninguna responsabilidad de producto.
Las medidas que ha tomado y el agujero que dejan
Flock ha hecho dos cambios reales. La retención por defecto baja de 30 días a 7, y para consultar los datos hay que introducir un código de caso, o sea, vincular la búsqueda a una investigación abierta.
Los dos se pueden anular activando el modo Evidencia. Una salvaguarda que el propio usuario puede desactivar cuando le estorba no es una salvaguarda, es un formulario. Los 46 casos documentados los cometieron precisamente los usuarios autorizados del sistema, que son los que tienen el botón.
Esto se parece mucho a lo que ya vimos con Flock OS Investigate, la IA policial con 69 búsquedas predefinidas que publicamos el 20 de agosto: la empresa añade capacidad de búsqueda mucho más rápido de lo que añade control sobre quién busca qué.
La reacción política y de calle
El rechazo viene de los dos lados del arco, que en Estados Unidos es lo que hace que una regulación avance. Sanders pide prohibición directa. Tres republicanos de la Cámara han registrado una ley para impedir que fondos federales paguen estos sistemas. Abdul El-Sayed lo ha convertido en munición electoral contra Mike Rogers en Michigan.
Y luego está la calle. Hay cámaras vandalizadas o robadas en Nueva York, Minnesota, California e Illinois, y carteles tapando lentes que circulan en vídeo. Cuando un producto de seguridad genera sabotaje ciudadano, el problema de la empresa ya no es regulatorio, es de licencia social.
Por qué importa
Esto pasa en Estados Unidos con matrículas, y la traducción europea llega antes de lo que parece. Aquí el equivalente es el reconocimiento biométrico y los sistemas de videovigilancia con IA, que el Reglamento Europeo de IA clasifica como alto riesgo o directamente prohibido según el uso.
La lección para cualquier empresa que despliegue IA sobre datos de personas, y eso incluye control de accesos, análisis de clientes en tienda o scoring interno, está en el detalle del modo Evidencia. Un control que el usuario puede desactivar por su cuenta no cuenta como control ante un inspector, y tampoco te protege del empleado que lo usa mal.
Lo que sí cuenta: registro de accesos inmutable, justificación obligatoria vinculada a un caso, retención corta de verdad y revisión periódica de quién ha consultado qué. Cuesta poco montarlo al principio y es carísimo añadirlo después, cuando ya tienes 46 incidentes y un periodista preguntando.
Flock construyó primero la capacidad y está intentando añadir el control ahora, en directo y con las cámaras ardiendo. Es el orden equivocado.
Relacionado
