¿Por qué la IA a veces se inventa cosas y cómo lo detecto a tiempo?

Hace un par de meses un desarrollador del equipo pasó tres horas buscando un método de una librería de JavaScript que, según ChatGPT, existía. No existía. Sonaba tan plausible —algo tipo Array.prototype.groupByAsync— que nadie lo comprobó hasta que el build petó. Eso es una alucinación: la IA no dice “no lo sé”, inventa una respuesta con la misma seguridad que si fuera cierta.

Y no es un bug raro que le pase solo a un modelo mediocre. Le pasa a todos, incluidos los buenos. Un modelo de lenguaje no “sabe” cosas como sabe una base de datos: predice la palabra siguiente más probable según lo que ha visto entrenando, y cuando el tema es muy específico o poco documentado, esa predicción puede sonar perfecta por fuera y estar vacía por dentro.

Lo que hemos aprendido en la agencia, más que desconfiar de la IA en bloque, es desconfiar de forma selectiva. Cuando le pido a un modelo un dato verificable —una versión de librería, el nombre exacto de un método, una cifra— lo trato como hipótesis, no como hecho. Si puedo comprobarlo en la documentación oficial en 30 segundos, lo compruebo. Si no puedo, no entra en el código del cliente. Punto.

Hay patrones que ayudan a pillarlo antes de que sea tarde. Cuanto más nicho o reciente sea el tema, más probable la invención: una librería lanzada hace dos meses es terreno fértil para que el modelo rellene huecos con algo verosímil. Si le pides al modelo la fuente exacta de lo que acaba de afirmar y la respuesta es vaga, o cambia entre intentos, mala señal. Y cuando genera código, se ejecuta, siempre. Un import que no resuelve se detecta en dos segundos corriendo el proyecto; a ojo, en una revisión rápida, se cuela sin que nadie se dé cuenta.

Con clientes que no son técnicos esto es más delicado, porque muchos dan por hecho que si la respuesta “viene de la IA” y suena coherente, es correcta. Les explico que un chatbot de atención al cliente que se inventa un precio o una política de devoluciones no es un fallo estético, es un problema legal y de confianza real. Por eso cuando montamos algo así casi siempre lo atamos a datos reales de la empresa (con recuperación de documentos o con prompts muy restringidos) en vez de dejar que el modelo “recuerde” la información de memoria.

Lo que todavía no tengo resuelto del todo es cómo explicar este riesgo sin que el cliente acabe desconfiando de toda la herramienta. Decir “puede inventarse cosas” suena a que no funciona, y no es eso: funciona muy bien para casi todo, menos para los datos que no puede permitirse fallar. Ese matiz es el que más cuesta transmitir en una reunión de venta, y todavía no he encontrado la frase que lo resuma sin sonar a advertencia legal.