L'IA di Anthropic è troppo prudente (e i ricercatori di sicurezza infuriano)

Anthropic ha lanciato Fable, un modello di intelligenza artificiale con un'idea nobile: proteggere il mondo dai cattivi aggiungendo guardrail, cioè limiti e controlli che impediscono all'IA di fare cose potenzialmente pericolose. Bella teoria. Il problema? Questi guardrail sono così rigidi che gli esperti di sicurezza non riescono nemmeno a usare il modello per il loro lavoro legittimo.

I ricercatori in questione non vogliono usare Fable per hackerare i sistemi altrui — vogliono testare i loro sistemi per trovarvi i buchi prima che i veri hacker lo facciano. È il lavoro più noioso e utile del mondo, ma Fable dice di no. Fare penetration testing, cioè cercare vulnerabilità in modo controllato, è una pratica standard nell'industria. Non è roba da villain.

La questione centrale è questa: quando schermi un'IA così tanto da impedirle di aiutare anche i "buoni ragazzi", stai risolvendo un problema o creandone uno nuovo? Perché se gli esperti non possono usare i modelli moderni per il loro lavoro di difesa, dovranno usare strumenti vecchi, meno sofisticati, o — ironia della sorte — inizieranno a cercare modelli meno controllati di altre aziende.

Anthropoc in realtà ha una filosofia interessante sulla sicurezza dell'IA, ma il risultato pratico è un po' come mettere un airbag così sensibile che scatta anche quando freni dolcemente. Utile? Sì. Frustrante? Anche.

Per ora è una tensione sotterranea tra il desiderio di proteggere l'umanità da scenari catastrofici e la necessità pratica di far funzionare gli strumenti di difesa che abbiamo adesso. Non è un problema che si risolve con un aggiornamento.