É seguro darlle os meus datos a unha ferramenta de IA?

Antes de meterme neste tema tiven que aprendelo eu mesmo, porque non tiña nin idea de que pasaba realmente co que escribes nun chat de IA. A resposta curta é: depende, e a maioría da xente non le a parte que depende.

Cando escribes algo nunha ferramenta de IA gratuíta orientada a consumidor, en moitos casos esa conversa pode usarse para seguir adestrando o modelo, salvo que a propia ferramenta ofreza (e ti actives) unha opción para evitalo. Nos plans de empresa ou nas API que usamos nós para construír cousas para clientes, normalmente é ao revés: por defecto non se usa para adestrar nada, queda só como parte do servizo que pediches.

A regra que aplico eu, sen excepcións: nunca pegar nun chat de IA nada que non pegarías nun correo a un descoñecido. Contrasinais, datos de clientes, contratos con cláusulas de confidencialidade, todo iso queda fóra. Non porque asuma mala fe da empresa que fai a IA, senón porque calquera sistema pode ter un fallo de seguridade, e canto menos dato sensible circule, menos hai que perder se algo falla.

Para un negocio que quere meter IA na súa web ou na súa atención ao cliente, hai unha pregunta que case ninguén fai e debería: onde vive o dato mentres se procesa? Se é unha ferramenta con servidores na Unión Europea e contrato de encargado do tratamento (o que esixe o RGPD), a cousa cambia bastante respecto de copiar e pegar datos de clientes na web pública dun chatbot calquera.

E logo está o obvio, que se nos esquece: se a túa propia empresa non permite compartir certa información cun provedor externo calquera, tampouco deberías compartila cunha IA só porque pareza “só unha ferramenta”. É un provedor externo máis, coas súas condicións de servizo e a súa letra pequena coma calquera outro.

O que aprendín investigando isto é que o risco real non adoita estar na IA en si, senón en non ler que plan estás a usar e para que se configurou.