Qué es una alucinación de la IA

Definición amplia

Se llama alucinación a la respuesta de un modelo de IA generativa que parece correcta pero contiene datos falsos: una cifra inventada, una cita que no existe, una norma mal atribuida o una conclusión que no se desprende del documento analizado. Google la define como la producción de una salida plausible pero incorrecta en los hechos, y recoge confabulación como sinónimo.

Por qué ocurre

Un modelo de lenguaje genera texto plausible según lo que aprendió; no consulta una base de datos de hechos. Un estudio de investigadores de OpenAI y del Georgia Tech, publicado en 2025, sostiene, además, que el entrenamiento y las evaluaciones habituales premian adivinar frente a reconocer la incertidumbre, como en un examen en el que responder algo puntúa más que dejarlo en blanco. Por eso el modelo tiende a contestar con seguridad aunque no sepa la respuesta.

Cómo se reduce

• Permitir que diga que no sabe, de forma explícita en las instrucciones.
• Darle las fuentes (documentos y datos de la empresa) como hace el RAG, y pedir que responda solo con ellas.
• Pedir citas literales que respalden cada afirmación y retirar lo que no tenga apoyo.
• Revisión humana en todo lo que tenga consecuencias: cifras, decisiones, textos legales o comunicaciones a clientes.

Estas técnicas reducen el problema, pero no lo eliminan; la documentación de Anthropic lo dice expresamente. En la empresa, conviene preguntarse qué pasaría si el modelo alucina en un proceso concreto y quién lo detectaría a tiempo.

Ejemplos de uso

• Administración y finanzas

  En finanzas, es el motivo por el que ninguna cifra generada por un asistente se da por buena sin cuadrarla con el sistema contable.

• Dirección y estrategia

  En dirección, se tiene en cuenta al decidir qué tareas pueden quedar en manos de un asistente y cuáles necesitan revisión.

• Atención al cliente

  En atención al cliente, es el riesgo de que un chatbot invente una condición de garantía o un plazo de devolución.

• Marketing

  En marketing, obliga a verificar datos, citas y estadísticas antes de publicar un contenido redactado con IA.

Términos relacionados

• LLM
• RAG
• Human in the loop
• Evals
• Guardrails
• IA generativa

Fuentes

• Google for Developers, Machine Learning Glossary: hallucination
• Kalai, Nachum, Vempala y Zhang (OpenAI y Georgia Tech), Why Language Models Hallucinate, 2025
• Anthropic, Reduce hallucinations