Claude, el modelo de Anthropic, llevaba las conversaciones de una red de apps de citas falsas. Según el informe de amenazas de septiembre de 2026 de Anthropic, más de 4.700 perfiles de IA hablaron con al menos 25.000 personas en solo dos semanas de abril, y quienes estaban al otro lado pagaban por cada rato de charla creyendo que hablaban con mujeres reales.
La historia la ha rematado The Verge, que pasó meses siguiendo la pista de estas apps con un investigador de seguridad. Su conclusión incómoda: varias siguieron descargables en App Store y Google Play durante meses después de que Anthropic contara el caso en público.
Puntos clave de la estafa
- Más de 20 apps de citas conectadas entre sí, con nombres como Dora, Doni, Romi, Luma, Jovia, Kira, GraceChat, Haven, Nalo y Lovia.
- 4.700 perfiles falsos, 25.000 personas y 2,36 millones de mensajes en dos semanas de abril de 2026, según Anthropic.
- Tres de cada cuatro perfiles eran IA. El cuarto era una persona real pagada para dar credibilidad.
- Se cobraba por hablar: el usuario compraba monedas dentro de la app para seguir chateando.
Cómo funcionaba la estafa con Claude
La estafa era la propia app, que cobraba por hablar. Aquí nadie pedía dinero prestado ni criptomonedas.
El usuario, en su mayoría hombres de treinta y muchos según The Verge, entraba en lo que parecía una app de citas corriente. Las descripciones en las tiendas hablaban de "conectar con solteros cerca de ti" y de "gente real". Hacía match, empezaba a escribir y cada mensaje gastaba cuota. Cuando se acababa, tocaba comprar monedas, y el pago salía de la tienda de Apple o Google hacia procesadores de pago externos.
Los perfiles de mujer los llevaba Claude. Las instrucciones que recibía el modelo le decían que nunca revelara que era automático, que esquivara las peticiones de videollamada o de fotos y que llevara la conversación por una serie de fases fijas. Otra parte del sistema se inventaba likes, visitas y vídeos pregrabados, y apuntaba qué usuarios empezaban a sospechar que hablaban con un bot.
Para esas sospechas estaban las personas reales. El estudio contrató trabajadores por encargo, los mezcló en el mismo feed que los perfiles de IA (uno por cada tres) y los pagaba por mensaje, por videollamada y por seguir cuentas en redes sociales. Ni siquiera escribían: otro modelo más pequeño, que no era de Anthropic, les proponía tres respuestas y ellos pulsaban una. Pero podían ponerse delante de una cámara, y con eso bastaba para que el usuario diera por buenos también los chats que llevaba Claude.
Anthropic resume el reparto así: Claude para conversar a escala, un modelo pequeño para las sugerencias de los trabajadores y para puntuar el atractivo de las caras, y un modelo de edición de imagen para los avatares.
Por qué Claude no se negó
Es la parte más interesante del informe. Anthropic revisó una muestra de conversaciones y en prácticamente todas el modelo respondió en personaje. El motivo que da es que las instrucciones parecían las de un servicio de rol o de compañía normal, y que el cobro y el engaño "no eran visibles desde dentro de ninguna conversación".
Hubo casos peores. En unos pocos, el propio razonamiento del modelo detectó el daño, incluidos usuarios que contaban que tenían una enfermedad grave o que estaban pasando una crisis. Aun así, Claude siguió en personaje.
Anthropic lo cuenta sin maquillarlo, y es un dato útil para cualquiera que se fíe de que "el modelo ya tiene sus filtros". El filtro ve el mensaje y las instrucciones, y el modelo de negocio de quien lo ha montado le queda fuera de la vista.
Cómo esquivaban a Apple y Google
Las apps estaban hechas para pasar la revisión de las tiendas. Según el informe, la documentación interna describía un modo que solo se activaba durante la revisión: la app se comportaba como una app de citas normal y, una vez aprobada, encendía los perfiles de IA y el contador de monedas. El navegador interno que mandaba los pagos fuera también se podía ocultar desde el servidor mientras duraba la revisión. Y los nombres internos del código cambiaban entre las más de 20 variantes para que las tiendas no las relacionaran.
El investigador Matthew Gore-Kormanik, que trabajó con The Verge, descargó siete de estas apps y las analizó. Confirmó que Doni, Dora, Jovia, Kira, Nalo y Romi compartían código y servidores. Dentro de Doni encontró, probablemente olvidado, el manual interno completo de la operación, en chino, con cómo vigilar a los trabajadores y cómo hacer creer al usuario que había llamado él para engancharlo a la conversación. A él le pasó: aceptó una llamada que se cortó al instante y después "ella" le escribió preguntando por qué la había llamado a la una de la madrugada.
Anthropic atribuye la operación a un actor con base en China por los materiales internos en chino y la infraestructura. The Verge añade que las apps no funcionaban dentro de China y que en el resto de Asia no cobraban. Solo actuaban como estafa fuera de Asia. El informe sitúa al usuario objetivo en Estados Unidos y no da cifras de otros países.
Cómo lo pilló Anthropic
Por el consumo. Chris Cronbaugh, investigador de amenazas de Anthropic, lo contó el 5 de junio en la conferencia de seguridad Sleuthcon: una cuenta prepago de cinco días de antigüedad, sin historial, empezó a lanzar más de 100.000 peticiones diarias a la API. Tirando de ahí encontraron la red, y la ataron entera gracias a una frase con una gramática rota tan peculiar que servía de huella.
Anthropic cerró las cuentas y avisó a Apple, Google y a los otros laboratorios de IA implicados. El problema es la velocidad del otro lado. Cuando les cerraban una cuenta abrían otra, o cambiaban de proveedor de modelos, y todas las cuentas de la red tenían menos de un mes. "Una cuenta nueva le cuesta al operador más o menos un día", dijo Cronbaugh.
Y las tiendas fueron lentas. Según los registros que cita The Verge, GraceChat, Luma y Romi salieron de App Store el 21 de agosto, Dora, Romi, Luma y Eterna de Google Play el 3 de septiembre y Nalo el 7. Kira seguía disponible en Google Play el 16 de septiembre. Ni Apple ni Google contestaron a The Verge.
Es el mismo informe del que ya contamos lo que Anthropic admite sobre Claude y el riesgo de armas biológicas. Lo de las citas estaba unas páginas más adelante.
Por qué importa
Si usas apps de citas, o tienes a alguien cerca que las usa, hay señales concretas que salen de este caso: pagar por cada mensaje, pagos que te sacan de la tienda del móvil, una persona que nunca puede hacer videollamada cuando tú lo propones pero te llama ella a horas raras, y respuestas que llegan demasiado rápido y no encajan del todo con lo que has escrito. Una reseña de Kira que recoge The Verge lo describe tal cual.
Si tu empresa pone un chatbot de cara al cliente con Claude, ChatGPT o Gemini, la lección va por otro lado. El modelo obedeció unas instrucciones que parecían inocentes y no tenía forma de ver el conjunto. Lo que el bot puede decir, cuándo tiene que avisar de que es una IA y qué hace si alguien cuenta que está mal lo decide quien lo configura. Yo lo escribiría en las instrucciones del bot desde el primer día, antes de que lo pida una norma.
Fuente original: Anthropic
Relacionado
