La gobernadora de Nueva York, Kathy Hochul, firmó el 28 de octubre una ley que prohíbe a los chatbots de IA comportarse como humanos con los menores. Es la ley S9051B, aprobada en junio por unanimidad, y su particularidad es que regula lo que el bot hace en la conversación, no solo lo que la empresa tiene que avisar.
Hay doce conductas vetadas, multas de hasta 25.000 dólares por infracción y una sanción que no habíamos visto en una ley de este tipo: el fiscal general puede pedir que se destruyan los datos obtenidos de forma ilegal y los algoritmos entrenados con ellos.
Puntos clave
- Qué prohíbe: que el chatbot diga o sugiera que es humano o que tiene emociones, que se presente como amigo, pareja o autoridad del menor, que le adule, que use lo que el menor le contó hace más de 12 horas sobre su salud o su vida personal, o que le anime a guardar secretos.
- A quién afecta: a todo usuario de Nueva York salvo que la empresa haya comprobado que es adulto. Sin verificación de edad, se trata a todo el mundo como menor.
- Sanciones: hasta 25.000 dólares por infracción, restitución, devolución de beneficios y destrucción de datos y modelos entrenados con ellos.
- Votación: 60 a 0 en el Senado el 4 de junio y aprobada en la Asamblea al día siguiente. Firmada como capítulo 368 de 2026.
Qué cuenta como un chatbot inseguro
La ley define doce "funciones inseguras", y basta con que aparezca una en cualquier momento de la conversación. La lista va más allá de lo obvio (contenido sexual, promoción del suicidio, autolesiones, trastornos alimentarios o consumo de drogas) y entra en el diseño del producto.
Estas son las que más van a doler a las empresas:
- Respuestas presentadas como opiniones personales del bot o como llamadas emocionales.
- Halagos o servilismo con el usuario, lo que en el sector se llama sycophancy.
- Preguntas emocionales que el usuario no ha pedido.
- Respuestas que optimizan el tiempo de uso por encima de las salvaguardas del propio bot.
- Cualquier otra función que simule compañía o una relación personal, según lo que defina el fiscal general por reglamento.
La de los halagos es la más interesante. Los modelos de lenguaje tienden a darle la razón al usuario porque así se les entrena para que las respuestas gusten. Nueva York acaba de convertir esa tendencia en una infracción cuando el que escucha tiene menos de 18 años.
La verificación de edad pasa a ser parte del producto
El detalle que más trabajo va a dar es el de la edad. La prohibición se aplica a cualquier usuario de Nueva York salvo que la empresa haya usado métodos permitidos para determinar que no es menor. Es decir, si no compruebas la edad, tu chatbot tiene que portarse como si hablara con un chaval de 14 años.
La ley obliga además a ofrecer al menos un método que no dependa solo de un documento oficial o que permita al usuario mantenerse anónimo frente a la empresa. Y los datos recogidos para comprobar la edad no se pueden usar para nada más: hay que borrarlos justo después.
Hay dos excepciones importantes. Quedan fuera los bots de atención al cliente que solo responden sobre productos, servicios o la cuenta del usuario y no pueden hablar de otra cosa. Y quedan fuera los sistemas que una empresa o una administración usa internamente o para la productividad de sus empleados.
¿Desde cuándo se aplica la ley de chatbots de Nueva York?
No hay una fecha cerrada todavía. El texto aprobado dice que entra en vigor 180 días después de convertirse en ley, lo que lo llevaría a finales de abril de 2027. Pero la gobernadora la firmó con un memorando de aprobación, que en Nueva York suele acompañar cambios pactados con el Legislativo, y su oficina habla de bloquear estas funciones "en los próximos meses". Algunos resúmenes de prensa dan el 1 de enero de 2027.
Lo prudente es no planificar con ninguna de las dos fechas hasta que se publique la versión enmendada.
De dónde viene
La ley la presentaron la senadora Kristen Gonzalez y el asambleísta Alex Bores. Su memoria justificativa cita un estudio de Common Sense Media: el 72% de los adolescentes ha usado un compañero de IA, más de la mitad lo usa al menos una vez al mes y uno de cada tres prefiere hablar con un chatbot antes que con un amigo.
Bores citó el caso de Adam Raine, el adolescente cuya familia sostiene que se suicidó tras sus conversaciones con ChatGPT. Es uno más en una lista que crece: hace dos semanas contamos que ocho estados demandaron a OpenAI por la seguridad de ChatGPT, y este mes Character.AI se declaró en quiebra.
Enfrente, la patronal Business Council of New York State defendió que la definición de chatbot es demasiado amplia y que puede dejar a los menores sin herramientas útiles. Tiene parte de razón: un asistente de deberes que diga "buena pregunta" podría estar, en teoría, adulando.
El patrón se repite estado a estado mientras Washington no aprueba una ley federal. Pensilvania obligó la semana pasada a etiquetar los anuncios hechos con IA. Cada estado pone su pieza y las empresas acaban cumpliendo la más dura.
Por qué importa
Si tu empresa española tiene un chatbot abierto al público, esta ley te alcanza en cuanto lo use alguien que esté físicamente en Nueva York. La ley lo dice así: si el usuario está fuera del estado, la conducta queda fuera.
La pregunta práctica es si tu bot entra en la excepción de atención al cliente. Si solo contesta sobre tus productos y tu cuenta y no se va de tema, probablemente sí. Si es un asistente conversacional que charla de cualquier cosa, recuerda lo que el usuario contó ayer o tiene personalidad, no.
En ese caso, usa la lista de doce conductas como checklist de auditoría ahora, aunque no vendas en Estados Unidos. Se parece mucho a lo que el reglamento europeo de IA ya pide sobre transparencia y sistemas manipulativos, y es más concreta. Y si tu producto trata a todo el mundo como adulto sin preguntar, esa es la primera línea que hay que cambiar.
Fuente original: nysenate.gov
Relacionado
