Una alucinación de la IA es cuando el modelo te da una respuesta falsa con total seguridad, como si fuera cierta. No miente a propósito: la IA predice lo que suena probable, y a veces lo probable no es lo verdadero. Aquí te explico por qué pasa y, sobre todo, cómo lo evito yo en más de 50 automatizaciones que corren solas cada día sin que me la cuelen.
Qué es una alucinación
Un modelo de lenguaje no consulta una base de datos de verdades. Genera la siguiente palabra más probable según todo lo que ha aprendido. Casi siempre eso coincide con la realidad, pero cuando le preguntas algo que no tiene bien aprendido o que es ambiguo, rellena el hueco con algo que encaja en la forma aunque sea falso en el fondo.
Por eso una alucinación suena bien. Tiene la estructura de una respuesta correcta. El dato, el nombre o la cifra están inventados, pero el envoltorio es impecable, y ahí está el peligro.
Cómo son en la práctica
Las alucinaciones tienen formas típicas que conviene reconocer. La IA se inventa una cita y se la atribuye a alguien que nunca la dijo. Te da una referencia o un estudio que no existe. Al programar, llama a una función de una librería que suena lógica pero no está. O te suelta un dato legal, médico o fiscal con aplomo cuando en realidad se lo acaba de inventar.
El patrón común es la seguridad. No te avisa con un "puede que me equivoque". Te lo afirma igual que te afirma lo que sí sabe. El peligro real está justo ahí: falla sin levantar la mano, y por eso cuela.
Por qué aparecen (y cuándo)
Me encontraba muchas más alucinaciones en el modo chat, con Claude.ai o con ChatGPT, que cuando me pongo a construir. Y hay una razón.
Cuando hago vibe coding y desarrollo herramientas, casi no me aparecen, porque no le pido cosas probabilísticas. Le pido que me cree programas en Python o PHP que hacen cosas deterministas, con un proceso que yo ya traigo bien mapeado. Donde no hay ambigüedad, no hay hueco que rellenar, y no hay alucinación.
Las alucinaciones nacen sobre todo de preguntas abiertas o mal documentadas. Si le preguntas algo raro y poco tratado, es fácil que empiece a inventar. Si le preguntas algo que está muy bien documentado y que cualquier modelo ha aprendido con datos fiables, la respuesta que te da es buena. Cuanto más concreta y verificable es tu pregunta, menos margen tiene para inventar.
Cómo las evito yo
Tengo tres formas de mantenerlas a raya, y las uso a la vez.
La primera es preguntar bien. Voy a lo documentado y a lo concreto, no a lo abierto. Y le doy contexto: para escribir la newsletter y las noticias uso documentos con mi voz y mis reglas de estilo, y tener esos documentos hace que se escriban mucho mejor y con menos invención. El contexto es la mejor vacuna contra la alucinación.
La segunda es trabajar en determinista siempre que puedo. Si una tarea la puede hacer un programa con reglas fijas, la convierto en código en vez de dejarla al criterio del modelo cada vez.
La tercera es el blindaje de mis automatizaciones. Tengo más de 50 corriendo, y ninguna va sin red. Cada una lleva un deadman watch, que comprueba que la tarea ha arrancado y ha terminado de verdad. Y un confidence scoring, que revisa el output y verifica que cumple los requisitos normales de esa actividad antes de darlo por bueno. Y por encima de todo, un humano revisando en cuanto algo se sale de lo esperado.
Cuándo preocuparte y cuándo no
Para una conversación informal, una alucinación te hace perder el tiempo y poco más. El problema es cuando montas un proceso automático que toma decisiones o mueve datos sin que nadie mire. Ahí una alucinación sin control se propaga.
La regla que sigo es sencilla: cuanto más automática y menos supervisada sea una tarea, más determinista tiene que ser y más red de seguridad necesita. Deja el criterio del modelo para lo que de verdad lo pide, y para el resto, reglas fijas y verificación.
Cada día te resumo lo que importa en IA en digitalbrain.email, sin ruido.
Relacionado
