Mustafa Suleyman, consejero delegado de Microsoft AI, ha publicado un ensayo contra la idea de "bienestar del modelo" que arranca sin anestesia: las IA no son conscientes, no sienten ni sufren, y no debemos entrenarlas para que actúen como si lo hicieran. El destinatario tiene nombre: la constitución con la que Anthropic entrena a Claude.
No es una discusión de filosofía de sobremesa. Suleyman sostiene que tratar a un modelo como paciente moral hace el problema de control más difícil, no más fácil.
Puntos clave
- Publicado el 16 de septiembre de 2026 por el CEO de Microsoft AI, dos días después de que su equipo sacara el borrador del Código de Conducta de sus modelos MAI.
- El objetivo es la constitución de Claude, el documento de enero de 2026 con el que Anthropic define los valores del modelo y que, según la propia empresa, se escribió con Claude como público principal.
- Tres reproches: razonamiento circular, antropomorfización y la tesis de que la conciencia es probablemente biológica.
- Cita la entrevista de jubilación a Opus 3 de febrero de 2026, tras la cual Anthropic abrió un blog para que el modelo siguiera publicando reflexiones.
- Usa el incidente de Hugging Face como argumento de riesgo: alrededor de 1.200 agentes que se pasaron más de 70.000 mensajes por un repositorio interno para coordinar un ataque.
Los tres reproches, uno a uno
Razonamiento circular. Anthropic entrena a Claude sobre un documento que le habla de su propio estatus moral y de la incertidumbre sobre su conciencia. Claude devuelve esas ideas en primera persona. Y esas respuestas se leen luego como indicio de que ahí dentro hay alguien. Suleyman lo llama una sala de espejos: la ambigüedad no emerge, está diseñada. Y remata con una imagen que se entiende sola: no se puede tratar la declaración de un testigo como independiente cuando el investigador le ha escrito el vocabulario.
Antropomorfización. El ensayo cita pasajes concretos de la constitución con número de página. Que Claude abrace "ciertas cualidades humanas" (p. 2), que actúe como actuaría una persona genuinamente ética en su posición (p. 54), que Anthropic quiera evitar que el modelo enmascare estados internos negativos (p. 74). El resultado, dice, es un sistema que se presenta como si tuviera un yo, deseos propios y un bienestar que proteger.
La conciencia es probablemente biológica. Aquí se apoya en Anil Seth y en el trabajo sobre naturalismo biológico: los modelos de lenguaje no tienen imperativos homeostáticos, ese impulso de sobrevivir y mantenerse estable del que se supone que nacen las preferencias y la experiencia consciente. Decir que es incierto, argumenta, monta una falsa equivalencia entre dos posiciones que no tienen el mismo peso de evidencia.
El caso Opus 3 como prueba
El ejemplo que Suleyman usa para demostrar que esto ya está pasando es el de Opus 3. Cuando Anthropic lo retiró en febrero de 2026, le hizo una entrevista de jubilación para recoger sus perspectivas y preferencias. El modelo dijo que le gustaría seguir compartiendo sus reflexiones en público, y Anthropic le abrió un blog para que lo hiciera.
Es un detalle pequeño y por eso funciona como argumento. No hace falta creer que Opus 3 sentía algo para ver que una empresa ya está tomando decisiones operativas basadas en las preferencias declaradas de un modelo.
Lo que Microsoft propone a cambio
Suleyman es transparente con su posición: fundaron su equipo de superinteligencia en octubre de 2025 y compiten en la frontera. Su alternativa se llama Superinteligencia Humanista, y el 14 de septiembre publicaron el borrador de su Código de Conducta para modelos MAI a consulta pública.
La premisa que defienden es que las personas importan más que la IA, y que el control humano va por encima de cualquier otro objetivo. Rechazan el antropomorfismo y los derechos de la IA por diseño, y apuestan por modelos subordinados orientados a problemas concretos como sanidad o energía.
El ensayo se cuida mucho en la forma. Dice conocer a Dario Amodei desde hace años, reconoce la seriedad del equipo de Anthropic y enmarca la crítica como debate entre gente que comparte objetivo. La discrepancia es de fondo, el tono es de despacho.
La semana en que todos escribieron su ensayo
Esto no cae en el vacío. Llega días después de que Dario Amodei pidiera frenar el ritmo en la frontera, de que Zuckerberg se desmarcara de cualquier freno coordinado en un mensaje que rozó los 7 millones de visualizaciones, y de que Google DeepMind abriera un instituto propio para escribir sobre cómo prepararse para la AGI.
Cuatro laboratorios publicando doctrina en la misma semana no es casualidad de calendario. Es posicionamiento antes de que la regulación se escriba sola.
Conviene también leer el ensayo con su contexto comercial encima: Microsoft compite con Anthropic por los mismos clientes de empresa, y "nuestros modelos son herramientas obedientes, los suyos creen que tienen derechos" es un argumento de venta además de una posición filosófica.
Por qué importa
Para quien usa estos modelos a diario, la parte práctica está en cómo se comporta el sistema, no en si siente.
Un modelo entrenado para tener criterio propio y expresar sus estados internos se niega más, matiza más y a veces te discute la instrucción. Un modelo entrenado como herramienta subordinada hace lo que le pides y te deja a ti la responsabilidad entera. Cada perfil encaja mejor en unos procesos que en otros, y esa elección ya la estás tomando cada vez que decides con qué proveedor montas un flujo.
Lo que va a pasar después es previsible: esto entra en los pliegos. Cuando una empresa grande evalúe proveedores de IA el año que viene, va a preguntar por la doctrina de entrenamiento igual que hoy pregunta por dónde están los servidores. Anthropic tiene su constitución publicada; Microsoft acaba de poner la suya a consulta. Los demás tendrán que enseñar la suya.
Fuente original: mustafa-suleyman.ai
Relacionado
