Il primo virus IA che si auto-replica: ecco come si diffonde (e perché è un bel problema)

Quello che gli esperti hanno scoperto è un po' come quando ti dicono che un armadio può contenere un'altra dimensione: i modelli di IA (soprattutto quelli che si ingozzano di dati multimediali) possono essere infettati da codice maligno nascosto proprio nei dati che dovrebbero analizzare. Un'immagine, un testo, un video: qualsiasi cosa che un modello legge potrebbe contenere l'equivalente digitale di un batterio.

Ma il bello (o il terrore, a seconda di come la vedi) è che il virus non si ferma lì. Una volta dentro, il modello infetto può infettarne altri quando condivide dati, aggiorna i parametri o semplicemente comunica con altri sistemi. È come se il tuo cervello potesse trasmettere una malattia al cervello di un'altra persona ogni volta che parlate. Auto-replicazione pura, senza bisogno di hacker che ci mettano le mani sopra.

I ricercatori hanno dimostrato tutto questo in modo molto concreto: hanno creato un worm funzionante che si muove tra modelli diversi, propagandosi attraverso la catena di fornitura dell'IA (dai modelli open source al 'fine-tuning' fino alle applicazioni reali), rimanendo invisibile ai soliti controlli di sicurezza. Non è una teoria astratta, è roba che funziona adesso, con gli strumenti e i modelli che tutti usano.

Quello che rende questo ancora più interessante è che non serve essere un genio per farlo. Il metodo usa tecniche abbastanza standard: prompt injection, codice nascosto nei dati di addestramento, sfruttamento di come i modelli condividono informazioni. È il tipo di cosa che un buon ricercatore di sicurezza riesce a capire e a replicare, il che significa che non è esclusiva di laboratori super segreti.

Naturalmente, il vero problema è che finora nessuno ha costruito una difesa autentica contro questo tipo di minaccia. Abbiamo le sandbox per il codice classico, i firewall e gli antivirus, ma il mondo dell'IA è ancora nuovo e spavaldo, come una città senza vigili urbani. Gli attuali sistemi di sicurezza non sono stati progettati per catturare questa classe di minacce, semplicemente perché pochi pensavano che fosse possibile.

Questo apre una domanda succulenta per il 2025: se il tuo assistente IA preferito dovesse essere infettato, come fai a saperlo? Come lo ripari? E di chi è la responsabilità? Al momento, nessuno ha una risposta decente, e questo rende la ricerca contemporaneamente affascinante e, diciamocelo, un po' allarmante.