Un usuario afirma que dejó operar a Claude en su cuenta

Un usuario de Reddit afirma que dio a Claude acceso con capacidad de operar sobre una cuenta de inversión durante un mes y que acabó con 31.000 dólares menos. Publicó el resultado como advertencia sobre lo rápido que puede torcerse un agente con decisiones financieras reales.

Antes de seguir, la parte importante: varios comentaristas del hilo pusieron en duda que la captura de pantalla fuera auténtica. La cifra es un testimonio sin verificar, no un dato comprobado. Lo tratamos como lo que es.

Puntos clave

Un mes de operativa autónoma y una pérdida declarada de 31.000 dólares, publicada por el propio usuario como aviso.
La captura fue cuestionada en el hilo. No hay verificación independiente de la cifra ni de la operativa.
El consenso de los comentarios: simular sin dinero real primero, limitar el tamaño de cada posición y poner un tope duro de pérdida antes de que el agente pueda vaciar la cuenta.
Llega la misma semana en que Binance abrió su plataforma a agentes de IA dejando los límites en manos del usuario.

Por qué merece atención aunque la cifra no esté verificada

El caso concreto puede ser falso. El patrón no lo es, y ahí está el interés.

Las plataformas están abriendo la puerta a que un agente ejecute operaciones con dinero real, y lo están haciendo con los límites configurados por el usuario. Binance lo hizo esta semana. Eso significa que el control de riesgo depende de que alguien sin experiencia en gestión de riesgo se acuerde de configurarlo antes de irse a dormir.

Un agente de IA no tiene aversión a la pérdida ni instinto de parar. Si le das una cuenta y una instrucción vaga, ejecutará la instrucción hasta que se le acabe el saldo o alguien lo pare. No hay nada en el modelo que diga "esto ya es demasiado".

La lista del hilo es sensata

Lo mejor del hilo no es la anécdota, es lo que la comunidad respondió, y son tres reglas que valen para cualquier agente con capacidad de ejecutar, no solo para trading:

Primero, simular. Que el agente proponga y registre sus decisiones sin ejecutarlas durante el tiempo suficiente para ver qué habría pasado. Segundo, limitar el tamaño de cada acción individual, para que ningún error suelto sea grave. Y tercero, un tope acumulado que corte la operativa: si se pierde X, el agente se para solo y avisa.

Ninguna de las tres es sofisticada. Las tres se saltan constantemente.

Por qué importa

En una empresa el equivalente no es una cuenta de bolsa, es cualquier agente con permiso de escritura: uno que manda correos a clientes, otro que modifica registros en el CRM, otro que aprueba facturas por debajo de un importe.

Las tres reglas se trasladan tal cual. Modo simulación primero, con el agente escribiendo lo que haría en un log en vez de hacerlo. Límite por acción, para que un error no sea catastrófico. Y un tope acumulado con parada automática.

Lo que no funciona es el "ya lo revisaremos". Revisar a posteriori un agente que ejecuta 400 acciones al día no lo hace nadie. La barandilla se pone antes o no se pone.

Fuente original: reddit.com

Relacionado