Il CEO di Anthropic vuole che i governi possano bloccare l'IA

Dario Amodei, che dirige Anthropic, ha fatto un'affermazione che suona quasi controcorrente nel settore: secondo lui, i governi dovrebbero avere il diritto di bloccare il rilascio di nuovi modelli di intelligenza artificiale se presentano determinati rischi. Non stiamo parlando di censura generica, ma di una valutazione strutturata dei pericoli reali prima che un'IA arrivi nelle mani del pubblico. È come dire: "Prima di mettere una macchina in commercio, un'autorità indipendente dovrebbe controllarla." Nel caso dell'IA, ovviamente, le conseguenze potenziali sono ben diverse da un difetto di carrozzeria.

Il punto di vista di Amodei è interessante perché viene da dentro l'industria, non da ambientalisti digitali che spiano da fuori. Lui sa bene quanta pressione commerciale esista per lanciare modelli il più velocemente possibile, senza aspettare i tempi burocratici. Ma sostiene che alcune innovazioni sono troppo delicate per correre rischi: se un modello potesse essere usato per attacchi informatici su larga scala o per creare disinformazione sofisticata, forse vale la pena rallentare il rilascio e farsi controllare.

Ovviamente, qui comincia il vero casino. Come fa un governo a capire davvero se un modello di IA presenta rischi? Chi nomini le autorità di controllo? Che parametri usi? La vera sfida non è capire che l'IA ha potenziale distruttivo (lo sanno tutti ormai), ma stabilire un sistema di valutazione che non diventi soltanto uno strumento per soffocare l'innovazione o per proteggere i big player dagli sfidanti. È facile immaginare grandi aziende che dicono "questo modello dei nostri competitor è troppo rischioso" semplicemente perché compete con il loro business.

Anthropic stessa ha già un track record di cautela: il loro modello Claude viene aggiornato con attenzione, e l'azienda ha sempre pubblicamente discusso di misure di sicurezza. Quindi quando Amodei parla di regolamentazione, non suona come un'azienda piccola che non può permettersi il controllo qualità. Suona più come qualcuno che crede davvero che il settore abbia bisogno di guardrail, altrimenti rischia di auto-distruggersi con uno scandalo quando un modello finirà nelle mani sbagliate.

La dichiarazione arriva in un momento dove governi globali stanno effettivamente provando a regolamentare l'IA — dall'AI Act europeo ai vari tentativi americani. Amodei sta essenzialmente dicendo: "Non aspettate che succeda un disastro prima di agire." Che sia genuina preoccupazione, calcolo strategico, o entrambi, resta il fatto che uno dei leader del settore sta dicendo pubblicamente che l'autoregolamentazione probabilmente non basta.

Il vero interrogativo è se il resto dell'industria sarà d'accordo o se continuerà a spingere per la velocità massima e il rischio minimo di interferenze esterne. Finora il consenso è stato: "La regolamentazione è importante, ma non troppo." Amodei sembra dire: "Forse sì, troppo poco."