Anàlisi sobre IA conversacional i privacitat: què passa amb la informació que compartim?

La incorporació de la intel·ligència artificial conversacional a la vida quotidiana i a l’activitat professional ha avançat més ràpidament que el coneixement sobre com circula la informació que hi introduïm. La facilitat per formular preguntes, carregar documents o mantenir converses genera una sensació de proximitat que pot afavorir que compartim informació personal, professional o confidencial sense conèixer tots els destinataris que podrien intervenir en el seu tractament.

L’article Prompt like a Butterfly, Sting like a Tracker: A Privacy Analysis of Web and Mobile Conversational AI Agents1, elaborat per investigadors principalment vinculats a IMDEA Networks, aporta evidència sobre aquesta qüestió. El treball analitza nou serveis d’IA conversacional -ChatGPT, Claude, Grok, DeepSeek, Perplexity, Gemini, Copilot, Mistral i Meta AI- i examina la integració de serveis de publicitat, seguiment, analítica i monitoratge en les seves versions web i aplicacions Android.

La seva aportació principal és mostrar que l’avaluació de la privacitat d’aquestes eines ha d’incloure tot l’entorn tecnològic que acompanya la conversa. A més del proveïdor del model, poden intervenir serveis que recullen informació sobre les interaccions, els comptes o els dispositius.

La informació també es pot exposar a través dels títols i els enllaços

L’estudi identifica transmissions d’elements derivats de les converses a tercers en sis dels nou serveis web i en tres de les vuit aplicacions Android analitzades. Els elements observats inclouen, segons el servei i les condicions d’ús, identificadors de conversa, enllaços, títols, missatges de l’usuari i previsualitzacions.

Aquest resultat requereix una lectura precisa: no significa que tots els serveis analitzats comuniquin converses completes ni que tots els tercers rebin la mateixa informació. Tanmateix, posa de manifest que determinades dades poden sortir del context en què l’usuari creu que s’està desenvolupant la interacció.

Un dels aspectes més rellevants és el valor informatiu dels títols generats automàticament. Un títol sobre símptomes de Parkinson, dificultats econòmiques o una situació familiar pot revelar el tema d’una conversa sense necessitat d’accedir al text original. Quan aquesta informació es transmet juntament amb identificadors persistents, augmenta la possibilitat de vincular-la a una persona o a un perfil d’usuari.

Els enllaços constitueixen una altra via d’exposició. Si permeten accedir a una conversa sense autenticació, la seva comunicació a tercers pot facilitar l’accés al contingut. L’estudi també observa que les funcionalitats de compartició poden ampliar la informació transmesa: en les pàgines de converses compartides de Grok, els investigadors detecten comunicacions del darrer missatge a Meta i TikTok i una previsualització en forma d’imatge accessible per a TikTok.

Les opcions de privacitat s’han de valorar pel seu efecte real

Els resultats també qüestionen algunes expectatives habituals. Rebutjar cookies no essencials redueix determinades comunicacions, però no elimina tots els fluxos a tercers. Igualment, els comptes de pagament de consum no presenten diferències clares i sistemàtiques respecte dels gratuïts pel que fa a la infraestructura de seguiment observada.

Per tant, disposar d’una subscripció o activar una opció de privacitat no és suficient per donar per garantida la confidencialitat. Cal comprovar què modifica efectivament aquesta opció i quins tractaments continuen produint-se.

Aquesta lectura ha de respectar els límits de la recerca. Les proves es van efectuar a Espanya el maig de 2026 i reflecteixen les versions i configuracions examinades. L’estudi exclou els plans empresarials i governamentals, de manera que no permet extrapolar directament els resultats a les solucions corporatives. A més, la presència d’un servei de monitoratge o analítica no acredita, per si sola, un ús publicitari o un incompliment normatiu: cal conèixer les finalitats, els contractes i les mesures aplicades.

Incidència en el sector sanitari: protegir tot el circuit de la informació

En el sector sanitari, les vies d’exposició descrites mereixen una atenció especial per la sensibilitat de les dades i pel deure de confidencialitat que acompanya l’activitat assistencial. Les aplicacions següents són una valoració dels riscos identificats; l’article no analitza específicament sistemes hospitalaris.

L’ús d’una IA per resumir informes, preparar documents, consultar casos o redactar respostes a reclamacions pot comportar la introducció de dades de salut i d’informació sobre l’entorn familiar o social dels pacients. Encara que la finalitat del professional sigui legítima, cal determinar si l’eina ofereix garanties adequades i si hi intervenen destinataris que el centre no havia previst.

Aquesta comprovació ha d’incloure els elements generats a partir del contingut. Per exemple, un títol com “Seguiment de pacient amb Alzheimer” pot revelar informació clínica si es vincula a una persona identificable. 

També cal distingir entre la identitat de qui utilitza l’eina i la de la persona a qui es refereixen les dades. Una conversa vinculada al compte d’un professional pot contenir informació d’un pacient. La identificació del professional no implica automàticament la del pacient, però els detalls del cas poden facilitar-la.

En aquest context, eliminar el nom no equival a anonimitzar. La combinació d’una edat, un diagnòstic poc freqüent, dades assistencials, la localització del centre i circumstàncies familiars pot permetre reconèixer una persona. La revisió ha d’abastar el conjunt de la informació introduïda, inclosos els documents adjunts.

Els riscos també són rellevants quan el centre incorpora un assistent al web o al portal del pacient. Cal verificar si les eines d’analítica de la pàgina poden capturar consultes, títols o altres elements relacionats amb la interacció. L’avaluació ha d’incloure tant el servei que ofereix la IA com la interfície que l’integra.

Des d’una perspectiva organitzativa, això exigeix establir usos autoritzats, seleccionar les eines segons les dades que tractaran i implicar els responsables assistencials, de sistemes i de protecció de dades. La revisió dels proveïdors també ha de ser exhaustiva i tenir en compte les finalitats, els destinataris, els subencarregats, la conservació, les transferències i els controls d’accés.

La promesa de no utilitzar les dades per entrenar models és una garantia rellevant que ha de constar en el contracte, però només cobreix una part de l’avaluació. També cal examinar els tractaments vinculats al funcionament de la plataforma, el suport, la telemetria i qualsevol ús propi del proveïdor.

Una governança de la IA que inclogui els fluxos menys visibles

L’article aporta una perspectiva útil per orientar la governança de la IA: avaluar també els mecanismes que envolten el model i que poden recollir o comunicar informació.

En el sector sanitari, aquesta perspectiva permet formular preguntes concretes abans d’autoritzar un ús: quines dades surten del centre, qui les rep, per a quina finalitat i amb quins controls? Les respostes han de sostenir-se en garanties contractuals i verificacions tècniques de la solució concreta.

La confiança dels professionals i dels pacients depèn que els beneficis de la IA s’acompanyin d’un control efectiu sobre la informació assistencial, incloent-hi els títols, els enllaços i els altres elements que es generen durant la interacció.

1. Oliveira, G., Sanchez, M., De Santa Olalla Gómez, J. M., Sánchez, R., Jackevicius, T., Garcia-Herrero, J., ... & Vallina-Rodriguez, N. (2027, July). Prompt like a Butterfly, Sting like a Tracker: A Privacy Analysis of Web and Mobile Conversational AI Agents. In Privacy Enhancing Technologies Symposium (was International Workshop of Privacy Enhancing Technologies) (pp. 1-18).