¿Qué es un modelo de razonamiento en IA y en qué se nota la diferencia?

Hace un par de meses le pedí a un modelo “normal” que revisara la lógica de un sistema de descuentos con reglas que se pisaban entre sí (cupón, oferta de temporada y precio ya rebajado, los tres a la vez) y me devolvió una respuesta segura, bien redactada y equivocada. Cambié al modo de razonamiento del mismo proveedor, la misma pregunta exacta, y tardó quince segundos en vez de dos. Esta vez sí pilló el caso raro en el que dos condiciones se anulaban entre ellas.

Un modelo de razonamiento es una IA que, antes de escribir la respuesta que ves, genera internamente una cadena de pasos intermedios donde prueba caminos y descarta los que no cuadran, en vez de contestar a la primera como hace un chatbot normal. Eso cuesta más tiempo y más tokens, pero mejora bastante el acierto en tareas con varios pasos lógicos encadenados: código con dependencias cruzadas, contratos con cláusulas que se contradicen, ese tipo de cosa.

La pega es justo esa: pensar de más no es gratis. En la mayoría de proveedores pagas también por los tokens del razonamiento interno, los que nunca ves en pantalla, así que la misma pregunta puede salir bastante más cara que con un modelo normal. Para una consulta de atención al cliente del tipo “¿hacéis envíos a Portugal?” es tirar el dinero: el modelo estándar responde igual de bien y en una fracción del tiempo. Y ahí es donde entender cómo se cuentan los tokens ayuda de verdad a decidir qué modelo pones en cada función, no solo en la de razonamiento.

Nosotros lo usamos de forma bastante quirúrgica.

Para generar texto de marketing, resumir un correo o clasificar un ticket entra un modelo estándar de gama media, sin dudarlo. Para revisar un cambio de arquitectura antes de tocar nada, depurar un bug que lleva dos días resistiéndose o repasar un contrato antes de que lo vea un cliente, cambiamos al modo razonamiento sin pensarlo dos veces. La diferencia se nota sobre todo cuando el problema tiene una trampa escondida: el modelo normal la pisa con seguridad, el de razonamiento a veces la ve venir y lo dice explícitamente antes de responder, algo tipo “espera, esto tiene un caso límite raro”.

Lo que todavía no tengo resuelto del todo es cuándo delegar esa elección, modelo rápido o modelo que piensa, en el propio sistema en vez de decidirla yo a mano cada vez. Algunos proveedores ya ofrecen un router automático que elige por ti según la pregunta, pero las pocas veces que lo hemos probado en producción acertaba menos de lo que nos hubiera gustado. Así que, de momento, seguimos poniendo el interruptor nosotros.