Anthropic frena il suo modello IA più potente: niente hacking, grazie

Mythos è una bestia: un modello IA capace di fare cose che i suoi predecessori neanche sognano. Troppo bravo, però. A inizio anno, Anthropic ha pubblicamente lanciato l'allarme: questo modello potrebbe identificare e sfruttare le falle nei sistemi critici. Il tipo di cosa che mantiene i CISO svegli di notte. Anziché lasciarlo a casa, hanno deciso di rilasciare una versione neutra — castrata, se vogliamo essere sinceri — dove tutte le capacità di cybersecurity sono state disabilitate.

L'idea è intelligente, per certi versi. Metti il modello in mano ai ricercatori e agli sviluppatori senza che possano (tecnicamente) usarlo per trovare buchi di sicurezza nei sistemi altrui. Chiaramente è un compromesso tra l'apertura e il buonsenso. Non è come rilasciare il modello intero — quello sarebbe stato irresponsabile — ma è nemmeno tenere tutto rinchiuso in un caveau di San Francisco.

Ma qui arriva il bello: quanto è difficile disabilitare davvero una capacità in un modello IA? Se la sai bene, puoi aggirarla. È come dare a qualcuno un'auto senza tappeto rosso: tecnicamente non può toccare il pedale dell'acceleratore, ma il meccanico nel garage accanto potrebbe avere idee diverse. La sicurezza tramite limitazioni è fragile, specialmente quando il limitato sei tu stesso — sai come funzioni internamente.

Anthropici sostiene che il modello continuerà a essere potentissimo per tutto il resto: codifica, ricerca, analisi, cose legittime. Non è come aver detto no all'IA — è come dire sì, ma con le mani legate in un punto specifico. Il vero test sarà se questa limitazione tiene quando esce nel mondo reale, lontano dai controlli del laboratorio.

Il messaggio di fondo è simpatico, però: riconoscere il rischio e tentare di fare qualcosa al riguardo è più di quello che molti fanno. Non è perfetto — raramente la sicurezza informatica lo è — ma almeno mostra che qualcuno ci pensa, piuttosto che sperare che tutto vada bene.