Que é un LLM e por que todo o mundo fala deles agora?

Un LLM (modelo de linguaxe grande, se o traducimos) é, resumido sen tecnicismos, un programa adestrado con moitísimo texto que aprendeu a predicir que palabra vén despois doutra. Soa sinxelo, case parvo. E aínda así de aí sae ChatGPT, Claude, Gemini e toda a onda de ferramentas que che escriben un correo ou che resumen un contrato en dous segundos.

Pénsao como o autocompletado do móbil, pero adestrado cunha biblioteca enteira en vez de cos teus últimos mensaxes. A diferenza de escala é tan grande que o resultado deixa de parecer autocompletado e comeza a parecer conversa.

Por que agora e non hai dez anos? Porque fixeron falta tres cousas á vez: moitísimos datos de texto dispoñibles, ordenadores capaces de procesalos (as famosas GPU, que ata hai pouco só interesaban a quen xogaba a videoxogos) e un cambio de deseño interno do modelo, o chamado “transformer”, que saíu dun paper de Google en 2017. Sen as tres pezas xuntas, isto seguiría sendo un experimento de laboratorio.

Unha cousa que a xente dá por feita e non é certa: o modelo non “sabe” nada no sentido en que o sabe unha persoa. Non consulta unha base de datos cando lle preguntas algo, xera a resposta palabra a palabra en base a patróns aprendidos. Por iso ás veces inventa cousas con total seguridade (o que se coñece como alucinación) e por iso convén non tratalo como un oráculo, senón como unha ferramenta que hai que revisar.

Para un negocio pequeno isto tradúcese en usos moi concretos: responder dúbidas frecuentes de clientes, redactar primeiras versións de textos, resumir documentos longos. Nada de ciencia ficción, simplemente un empregado moi rápido e algo despistado ao que hai que revisarlle o traballo.

Se te preguntas se paga a pena miralo para o teu negocio, a pregunta que che faría eu non é “que pode facer a IA”, é “que tarefa repetitiva vos quita máis tempo cada semana”. Aí adoita estar a resposta.