El Center for Democracy and Technology publico el 28 de julio un informe que defiende que el contenido generado por chatbots deberia estar protegido por la Primera Enmienda de la Constitucion de EE UU. Los tribunales todavia no han resuelto la cuestion, y la respuesta va a condicionar como se puede regular la IA en el mercado mas grande del mundo.
Puntos clave
- El informe se titula "Whose Speech Is It Anyway? The Constitutional Contours of Chatbot Regulation" y lo firma Becca Branum, directora adjunta de libertad de expresion del CDT.
- La tesis: aunque haya poco precedente judicial, los outputs de los modelos generativos encajan en la proteccion constitucional del discurso.
- El argumento con mas recorrido es que la Primera Enmienda protege tambien el derecho a recibir informacion, no solo a emitirla. Restringir lo que un chatbot puede decir restringe lo que millones de personas pueden leer.
- La proteccion no seria total: las categorias ya excluidas del discurso protegido (obscenidad, incitacion a la violencia, material de abuso infantil) seguirian excluidas.
El argumento de los dos autores
La parte mas novedosa del informe es como reparte la autoria. Branum sostiene que en cada output confluyen dos juicios editoriales: el del desarrollador, que decidio como entrenar y alinear el modelo, y el del usuario, que decidio que pedirle y como. "Para efectos legales, creemos que las decisiones de usuarios y desarrolladores seran relevantes para la consideracion de la Primera Enmienda", explico a The Deep View.
Eso choca con la posicion contraria, la que el propio informe recoge con la etiqueta de "loros estocasticos": si un modelo solo recombina datos de entrenamiento sin intencion expresiva, no habria discurso que proteger. Los tribunales han dado senales en los dos sentidos; en el caso contra Character.AI por la muerte de un adolescente, un juez federal rechazo en primera instancia que los outputs del chatbot tuvieran derechos de libertad de expresion.
Un detalle que sorprende: las alucinaciones tambien estarian cubiertas. Equivocarse no es ilegal, y la Primera Enmienda no distingue entre informacion correcta e incorrecta mientras no caiga en una categoria excluida como la difamacion.
El informe llega con propuestas concretas encima de la mesa. Hay iniciativas legislativas en EE UU que obligarian a los chatbots a ofrecer visiones aprobadas por el gobierno, les restringirian tratar ciertos temas o condicionarian fondos publicos a que el contenido cumpla criterios oficiales. La respuesta constitucional a esas tres vias depende de si el output se considera discurso protegido o no.
Por qué esta pelea importa fuera de EE UU
Branum plantea el escenario inverso: si el gobierno pudiera decidir que puede y que no puede decir un modelo, tendria influencia directa sobre buscadores, redes sociales y asistentes, que es donde cada vez mas gente se informa. Ya hay propuestas legislativas en EE UU que obligarian a los chatbots a dar visiones aprobadas por el gobierno o les vetarian temas enteros.
Para una empresa europea que construye sobre modelos americanos, la cuestion es menos abstracta de lo que parece. Si la proteccion constitucional prospera, los proveedores tendran mas margen frente a exigencias de contenido de cualquier gobierno, tambien las que vengan de fuera de EE UU. Si no prospera, cada eleccion o cada cambio de administracion puede alterar lo que tu asistente de atencion al cliente puede o no puede decir.
Y queda la pregunta que el informe deja abierta y que mas afecta a quien despliega agentes: si el output es discurso compartido entre desarrollador y usuario, la responsabilidad por lo que ese output cause tambien se reparte. Con modelos que ya no solo escriben sino que actuan, esa frontera es la que van a pelear los tribunales los proximos anos.
Relacionado
