Que é o system prompt dun chatbot de IA e por que cambia tanto o seu comportamento?

Hai un par de meses un cliente chamounos case enfadado: o chatbot que lle montaramos para atención ao cliente puxérase a recomendar produtos da competencia. Non era un fallo do modelo. Era o system prompt, mal escrito, que non lle dicía ao bot que facer cando non sabía a resposta.

O system prompt dun chatbot de IA é o bloque de instrucións que se manda ao modelo antes de cada conversa, invisible para quen escribe, e que fixa o seu rol, o seu ton e os seus límites; cambiar unhas poucas frases aí pode facer que o mesmo modelo pase de soar como un robot xenérico a comportarse como o asistente dunha marca concreta.

Na práctica é un ficheiro de texto, a veces de dous parágrafos, a veces de catro páxinas. Aí metemos cousas como “es o asistente desta tenda, só falas dos produtos deste catálogo” ou “se non sabes o prezo do envío, dio, non inventes un número”. Aí está o 80% do traballo real cando montamos un axente ou chatbot para un cliente: non en elixir o modelo, en afinar ese texto a base de probar conversas raras que un usuario normal nunca escribiría nunha demo.

O que ninguén conta ao empezar é que o mesmo prompt funciona distinto segundo o modelo. Tivemos un que ía perfecto en GPT-4 e volvíase evasivo en Claude coas instrucións idénticas, letra por letra. Houbo que reescribir media instrución só por ese cambio de provedor.

E hai un límite que a veces se nos esquece avisar ao cliente: o system prompt non é seguridade. Un usuario con paciencia pode lograr que o bot ignore as súas instrucións. Para evitalo fai falta algo máis que un texto bonito ao principio: filtros á parte do prompt, validacións no backend, límites que non dependan de que o modelo “se acorde” de comportarse ben.