Las alucinaciones de IA en informes corporativos acaban de costarle un disgusto publico a una de las cuatro grandes consultoras. KPMG retiro su documento ‘Redefiniendo la excelencia en la era de la IA agentica’ despues de que varias organizaciones citadas negaran las afirmaciones que aparecian sobre ellas. El grupo de investigacion GPTZero detecto que las inexactitudes encajaban con el patron tipico de un modelo de lenguaje generando datos falsos. La ironia es evidente: un informe sobre el uso responsable de IA terminado a base de IA sin verificar.
Que ha pasado y por que importa
KPMG publico un informe titulado ‘Redefiniendo la excelencia en la era de la IA agentica’ que incluia ejemplos concretos sobre como distintas organizaciones aplicaban inteligencia artificial. El problema llego cuando esas organizaciones empezaron a desmentir lo que el documento decia de ellas. UBS, el NHS britanico, Swiss Federal Railways y Transport for London confirmaron al Financial Times que las afirmaciones sobre sus practicas de IA eran falsas o enganosas.
El grupo de investigacion GPTZero analizo el texto e identifico que las inexactitudes provenian de alucinaciones de IA, es decir, afirmaciones inventadas por un modelo de lenguaje y presentadas con total aplomo. La conclusion que se desprende es incomoda: KPMG habria usado IA para redactar un informe sobre IA, sin un control humano suficiente que comprobara los hechos antes de publicar. Ante la avalancha de desmentidos, la consultora opto por retirar el documento.
El episodio importa porque no afecta a un blog menor, sino a una firma de auditoria y consultoria cuyo negocio se sostiene precisamente sobre la credibilidad de sus datos. Cuando una marca asociada al rigor publica datos inventados por un modelo, el dano reputacional supera con creces el ahorro de tiempo que prometia la automatizacion.
Implicaciones tecnicas del incidente
Las alucinaciones de IA no son un fallo puntual ni un bug que se parchea: son una propiedad inherente de como funcionan los modelos de lenguaje actuales. Un LLM predice la siguiente palabra mas probable, no comprueba si lo que afirma es cierto. Cuando le pides ejemplos concretos de empresas y casos de uso, el modelo rellenara los huecos con texto verosimil aunque no tenga respaldo factual. Y lo hara con un tono igual de seguro que cuando acierta.
El detalle que agrava este caso es el contexto: hablamos de IA agentica, sistemas que ejecutan tareas de forma autonoma encadenando pasos. Si un modelo alucina dentro de un documento estatico el dano es contenible. Si alucina dentro de un agente que toma decisiones o genera entregables sin supervision, el error se propaga y se amplifica.
La deteccion por parte de GPTZero tambien deja una leccion tecnica: existen herramientas capaces de identificar patrones de texto generado por IA y rastrear inconsistencias factuales. Pero esa verificacion deberia ocurrir antes de publicar, no despues de que los afectados protesten. El coste de comprobar fuentes es ridiculo comparado con el de retirar un informe a la vista de todos.
La leccion concreta para empresas que usan IA
La leccion aqui no es ‘no uses IA’, sino ‘no publiques nada generado por IA sin verificacion humana de los hechos’. Cualquier empresa que use modelos de lenguaje para producir informes, propuestas comerciales, contenido o documentacion deberia establecer un paso obligatorio de comprobacion factual antes de que el material salga de la organizacion. Lo barato no es la generacion: lo caro es el desmentido publico.
En la practica esto significa tres cosas. Primera: toda afirmacion sobre terceros (clientes, casos de uso, cifras, citas) debe contrastarse con la fuente original, nunca darse por buena porque el modelo la escribio con seguridad. Segunda: separar lo que es redaccion asistida por IA de lo que son hechos verificables, y aplicar revision humana especialmente a los segundos. Tercera: dejar trazabilidad de las fuentes, de modo que cada dato del documento pueda apuntar a un origen comprobable. Si tu equipo usa IA agentica para tareas autonomas, anade puntos de control humano en los pasos donde se generan afirmaciones de hecho. El caso KPMG demuestra que ni las firmas con mas recursos estan a salvo cuando saltan ese filtro.
Analisis Blixel
Hay algo profundamente revelador en que una firma cuyo producto es la confianza tropiece justo en el terreno que predicaba. El mensaje que vende la consultoria es ‘adopta IA con criterio’, y el error que comete es no aplicarse ese criterio a si misma. No es hipocresia deliberada, es prisa: la presion por publicar rapido y parecer al dia con la tecnologia empuja a saltarse el unico paso que importa, que es comprobar si lo que dices es verdad. La IA generativa es una herramienta excelente para redactar, estructurar y acelerar borradores. Es pesima como fuente de verdad, porque no distingue entre lo que sabe y lo que inventa. Confundir esas dos funciones es el error de fondo de este episodio y de muchos otros que veremos. Lo preocupante no es que un modelo invente datos, eso ya lo sabiamos. Lo preocupante es la cadena humana que dejo pasar esos datos hasta la publicacion. Ninguna persona contrasto si UBS o el NHS hacian lo que el documento afirmaba. Ese es el fallo de proceso, no de tecnologia. La conclusion sensata no es desconfiar de la IA, sino tratarla como lo que es: un asistente potente que necesita supervision adulta. Las empresas que entiendan esto antes de su propio incidente publico se ahorraran el bochorno. Las que crean que la IA sustituye al pensamiento critico aprenderan la leccion de la peor manera, con los afectados desmintiendoles en la prensa.
Quieres aplicar esto en tu empresa? En Blixel.ai te ayudamos a integrar IA con sentido comun. Hablemos.