En febrero de 2026 el Segundo Juzgado Civil de Concepción multó a un abogado por presentar un escrito con jurisprudencia que no existía. Las sentencias citadas estaban bien redactadas, tenían formato de fallo real y sostenían con elegancia el argumento del escrito. El problema es que ningún tribunal las había dictado nunca: las había generado una inteligencia artificial. El tribunal calificó la actuación como contraria a la buena fe procesal. Poco después, la Corte Suprema sancionó a una abogada por lo mismo.
El caso se comentó como una anécdota sobre un profesional descuidado. Es un error de lectura. Lo que ocurrió en Concepción no fue una falla de criterio individual: fue el comportamiento normal y esperable de la tecnología que se usó, aplicada a una tarea para la que esa tecnología no sirve sin una capa adicional. Cualquier empresa que hoy le esté pidiendo datos verificables a un chatbot está expuesta exactamente al mismo mecanismo, aunque el precio del error no sea una multa de un tribunal sino un informe mal fundado, una cotización con cifras inventadas o una respuesta falsa a un cliente.
Este artículo explica por qué ocurre, por qué no se arregla como casi todos creen que se arregla, y qué hay que exigirle a un sistema de IA para que el problema deje de existir.
Qué es exactamente una alucinación
Una alucinación es cuando un modelo de lenguaje entrega información falsa con el mismo tono de seguridad con que entrega información correcta. No hay señal de alerta, no hay duda, no hay asterisco. La respuesta inventada y la respuesta verdadera se ven exactamente igual.
Esa es la parte peligrosa. Un sistema que falla ruidosamente —que se cae, que da error, que devuelve vacío— es un sistema manejable, porque el error es visible. Un sistema que falla en silencio y con buena redacción traslada todo el peso de la detección a la persona que lo usa, justo en el momento en que esa persona está confiando en la herramienta para ahorrarse el trabajo de verificar.
En el caso de Concepción esto es literal: el tribunal advirtió que las referencias “no existían o no guardaban relación con lo planteado”, pero estaban redactadas con coherencia jurídica. El modelo no falló al escribir. Falló al saber.
Por qué ocurre: el modelo no consulta, predice
Acá está el malentendido de fondo, y vale la pena entenderlo aunque no seas técnico, porque de él se derivan todas las soluciones que sí funcionan.
Un modelo de lenguaje no es un buscador. Cuando le preguntas por un fallo, no va a una base de datos de sentencias, la consulta y te trae el resultado. Lo que hace es generar el texto más plausible dado todo lo que vio durante su entrenamiento. Si vio miles de citas jurisprudenciales chilenas, aprendió perfectamente cómo se ve una cita jurisprudencial chilena: el formato del rol, la estructura del considerando, el tipo de lenguaje que usa una Corte. Y puede producir una que cumple todas esas características sin que exista.
Dicho de otra forma: el modelo optimiza por verosimilitud, no por verdad. Son dos cosas distintas que coinciden la mayor parte del tiempo, y cuando dejan de coincidir el modelo no se entera. No hay dentro del sistema ningún componente cuyo trabajo sea preguntarse “¿esto que estoy diciendo existe?”.
Por eso las alucinaciones aparecen más justo donde más daño hacen: en datos precisos y verificables. Números de rol, fechas, artículos de una ley, cifras, nombres, referencias bibliográficas. Mientras más específico el dato, más fácil es que el modelo lo construya en vez de recordarlo.
Lo que no funciona: pedirle que no invente
La reacción intuitiva es agregar una instrucción: “no inventes información”, “si no sabes, dilo”, “cita solo fallos reales”. Esto reduce algo la frecuencia del problema y por eso genera una falsa sensación de control. Pero no lo elimina, y no puede eliminarlo.
La razón es sencilla: el modelo no sabe que está inventando. Para obedecer la instrucción “si no sabes, dilo”, tendría que poder distinguir internamente entre lo que sabe y lo que está construyendo, y esa distinción no existe en su funcionamiento. Desde adentro, generar una cita real y generar una falsa es la misma operación.
Pedirle a un modelo que no alucine no es una solución técnica. Es un deseo redactado en forma de instrucción. Y es exactamente el nivel de protección con el que operan hoy la mayoría de las empresas que usan IA para tareas que requieren datos exactos.
Los tres niveles de protección reales
Hay una escala clara de qué tan protegido está un sistema. Vale para jurisprudencia, para normativa técnica, para catálogos de productos o para cualquier dominio donde la respuesta tenga que ser exacta.
Nivel 1 — Solo instrucciones (protección nula)
El modelo responde desde su entrenamiento, con instrucciones que le piden ser cuidadoso. Es lo que ocurre cuando alguien le pregunta directamente a un chatbot de uso general. Sirve para redactar, resumir o reformular. No sirve para ningún dato que después alguien vaya a usar como cierto.
Nivel 2 — RAG: el modelo responde sobre documentos reales
Acá el sistema primero busca en una base de documentos verdaderos y recién después le pide al modelo que redacte la respuesta usando solo lo que encontró. El modelo deja de tirar del recuerdo y pasa a trabajar sobre material que existe.
Es un salto enorme respecto del nivel 1 y es la arquitectura correcta para la mayoría de los casos de empresa. Nosotros la usamos, por ejemplo, en un motor de búsqueda sobre 51.000 sentencias chilenas, con clasificación por materia y búsqueda semántica sobre el texto real de los fallos.
Pero hay que ser honesto sobre su límite: RAG reduce muchísimo las alucinaciones, no las hace imposibles. El modelo todavía puede resumir mal un documento real, atribuirle al fallo A algo que dice el fallo B, o rellenar un hueco cuando la búsqueda no trajo lo suficiente. La respuesta está anclada, pero no verificada.
Nivel 3 — Verificación contra la fuente primaria
El único nivel que da garantía. Consiste en invertir el flujo: en vez de confiar en lo que el sistema produjo, se toma cada afirmación verificable, se va a buscar el documento oficial y se comparan.
Es el principio detrás de nuestro verificador de citas: recibe el documento terminado, aísla cada referencia a un rol, RIT, dictamen o norma, descarga la fuente oficial —Corte Suprema, Cortes de Apelaciones, juzgados, Tribunal Constitucional, Tribunales Tributarios y Aduaneros, Dirección del Trabajo y la Biblioteca del Congreso Nacional— y la coteja carácter por carácter.
El detalle que más importa de ese diseño es el veredicto graduado: correcto, parcial, incorrecto, no localizable o sin cita. No es un binario, y esa no es una sutileza cosmética. El error más frecuente en la práctica no es la cita completamente falsa, sino la cita real a la que se le atribuye algo que no dice. Un sistema que solo pregunta “¿existe?” deja pasar justamente el caso más común.
Esto no es un problema solo de abogados
El caso de Concepción es nítido porque hay un tribunal, una multa y un fallo público. Pero el mecanismo es idéntico en cualquier empresa que use IA sobre datos que tienen que ser exactos:
- Un asistente que responde consultas de clientes y les da una condición comercial que la empresa no ofrece.
- Un sistema de cotización que arma un presupuesto con un precio o un plazo que se inventó.
- Un informe técnico que cita una norma o un artículo que no dice lo que el informe afirma.
- Un resumen de reunión que le atribuye a alguien un compromiso que nunca tomó.
- Un chatbot de soporte que explica un procedimiento interno que no existe en el manual.
En todos estos la diferencia con el caso del tribunal es solo quién descubre el error y cuánto cuesta. La causa técnica es exactamente la misma.
Qué exigirle a tu proveedor de IA
Si estás evaluando contratar un sistema con IA, estas cinco preguntas separan bastante bien lo serio de lo improvisado. Ninguna requiere que seas técnico.
- ¿De dónde saca la respuesta? Si responde “del modelo”, estás en nivel 1. Si responde “de una base de documentos tuyos”, estás en nivel 2 o mejor.
- ¿Me muestra la fuente de cada dato? Un sistema serio te deja llegar al documento y al párrafo exacto. Si no puede mostrarte de dónde salió algo, no puede garantizarte que salió de alguna parte.
- ¿Qué hace cuando no encuentra la información? La respuesta correcta es que lo diga explícitamente. Si siempre responde algo, entonces cuando no sabe, inventa.
- ¿Puedo auditar lo que respondió? Tiene que quedar registro de qué se preguntó, qué se respondió y con qué fuentes, para poder revisar después.
- ¿Quién revisa antes de que la respuesta salga? En procesos críticos tiene que haber un punto de control humano definido, no un “el usuario debería revisar”.
La lectura de fondo
La conclusión que sacaron muchos del caso de Concepción fue “hay que usar la IA con responsabilidad”. Es cierto y es insuficiente, porque deja toda la carga en la disciplina de la persona. La disciplina falla: por apuro, por volumen, por confianza acumulada después de veinte respuestas correctas seguidas.
La conclusión útil es otra: si el sistema permite el error, el error va a ocurrir. La responsabilidad profesional sigue siendo indelegable, pero un sistema bien construido no debería depender de que nadie se distraiga nunca. Debería ir a buscar la fuente y comparar, siempre, aunque el usuario no se acuerde de pedirlo.
Esa es la diferencia entre una IA que impresiona en la demostración y una que se puede usar para trabajar. Si estás pensando en llevar IA a procesos donde los datos tienen que ser exactos, revisa cómo lo abordamos en el mundo legal o conversemos sobre agentes verificables.
Preguntas frecuentes
¿Qué es una alucinación de inteligencia artificial?
Es cuando un modelo de lenguaje entrega información falsa con el mismo tono de seguridad con que entrega información correcta, sin ninguna señal de alerta. Ocurre porque el modelo genera el texto más plausible según su entrenamiento en vez de consultar una base de datos: optimiza por verosimilitud, no por verdad. Por eso aparece con más frecuencia en datos precisos y verificables como números de rol, fechas, cifras o referencias, que son justamente los que más daño hacen cuando están mal.
¿Puedo evitar las alucinaciones pidiéndole a la IA que no invente?
No. Reduce la frecuencia, pero no elimina el problema, porque el modelo no sabe que está inventando. Para obedecer una instrucción como “si no sabes, dilo” tendría que poder distinguir internamente entre lo que sabe y lo que está construyendo, y esa distinción no existe en su funcionamiento: generar una cita real y una falsa es la misma operación. Pedirle que no alucine es un deseo redactado como instrucción, no una solución técnica.
¿RAG elimina las alucinaciones?
Las reduce mucho, pero no las hace imposibles. RAG hace que el sistema busque primero en documentos reales y el modelo redacte solo sobre lo que encontró, lo que es un salto enorme respecto de preguntarle directo a un chatbot. Aun así, el modelo puede resumir mal un documento verdadero, atribuirle a un fallo algo que dice otro, o rellenar un hueco cuando la búsqueda no trajo suficiente material. La respuesta queda anclada a fuentes reales, pero no verificada contra ellas.
¿Qué pasó con el abogado multado en Concepción por usar IA?
En febrero de 2026 el Segundo Juzgado Civil de Concepción sancionó con una multa a un abogado que presentó un escrito con citas de fallos que no existían, generados por una IA generativa. El tribunal consideró que citar jurisprudencia inexistente es una actuación contraria a la buena fe procesal. Las referencias estaban redactadas con coherencia jurídica, pero no correspondían a sentencias reales. Poco después la Corte Suprema sancionó a una abogada por un caso equivalente.
¿Cómo verifico que una IA no está inventando datos?
La única garantía real es ir a la fuente primaria y comparar. Eso significa aislar cada afirmación verificable del texto, descargar el documento oficial correspondiente y cotejar lo que se afirma contra lo que la fuente efectivamente dice. Conviene además usar un veredicto graduado y no un simple sí o no, porque el error más común no es la cita inexistente sino la cita real a la que se le atribuye algo que no contiene.
¿Este problema afecta solo al mundo legal?
No. El caso legal es el más visible porque hay un tribunal y una sanción pública, pero el mecanismo es idéntico en cualquier uso donde los datos deban ser exactos: un asistente que ofrece una condición comercial inexistente, una cotización con un precio inventado, un informe que cita mal una norma o un chatbot de soporte que explica un procedimiento que no está en el manual. Cambia quién descubre el error y cuánto cuesta; la causa técnica es la misma.