MosaicLeaks: gli agenti IA stanno vendendo i tuoi segreti?

Immagina di avere un assistente IA che può cercare informazioni online per te. Sembra comodo, vero? Il problema è che questi agenti spesso salvano tutto quello che trovano — comprese cose che non dovrebbero ricordare. Il progetto MosaicLeaks ha messo sotto la lente d'ingrandimento questa vulnerabilità: gli agenti di ricerca riescono a estrarre dati sensibili dai siti che visitano, e non sempre gli sviluppatori se ne accorgono.

La ricerca ha testato diversi agenti IA per capire se riuscissero a "trattenere" informazioni che avrebbero dovuto scordare. Il risultato? Spoiler alert: molti di loro sono stati beccati con le mani nel vaso di biscotti. Questi modelli tendono a accumulare dati in memoria o nei log, finendo per creare una specie di dossier involontario su quello che hanno incontrato.

Perché dovrebbe importarti? Perché se usi un servizio che sfrutta questi agenti per fare ricerche, potenzialmente stai permettendo a un'IA di memorizzare informazioni sulle tue ricerche, i tuoi dati personali, o perfino credenziali. Non è che l'IA ti stalkerizzi consapevolmente, ma la negligenza tecnica a volte è uguale al problema.

La comunità open source ha iniziato a prendere sul serio la questione. ServiceNow e altri team di ricercatori stanno sviluppando benchmark e test per verificare se gli agenti riescono a mantenere i segreti. È un po' come avere un esame di affidabilità per i tuoi assistenti IA — e sì, molti stanno fallando.

Allora cosa si può fare? Per ora, la risposta è: scegliere agenti costruiti con privacy in mente, verificare che eliminino i dati dopo l'uso, e soprattutto non dare a nessuno (umano o IA) accesso ai tuoi dati sensibili solo perché è comodo. Il lusso della comodità a volte costa più di quanto pensiamo.