Anthropic e il grande brivido: cosa succederebbe se l'IA ci cancellasse?

Jack Clark, co-fondatore di Anthropic e capo della benefit pubblica, insieme a Peter McCrory (responsabile economia), si sono seduti con Joe Weisenthal e Tracy Alloway per il podcast Odd Lots di Bloomberg per una conversazione che non senti spesso nello spazio AI: il rischio esistenziale. Insomma, la probabilità concreta che la tecnologia che stiamo sviluppando possa diventare un'arma di autodistruzione dell'umanità.

Qui inizia la parte strana. Non è che Anthropic stia gridando al pazzo — anzi, il loro approccio è quasi clinico. Clark e McCrory spiegano come la company ragiona sui rischi: non come uno scenario di fantascienza B-movie, ma come un elemento che devi considerare quando disegni un sistema intelligente abbastanza potente. È come costruire una centrale nucleare e non pensare a cosa succede se tutto va male.

Uno dei punti chiave è che questi ragazzi non separano il rischio esistenziale dagli impatti economici immediati. Sì, l'IA cambierà il mercato del lavoro — questo è sicuro, è già in corso. Ma mentre aziende più grandi magari preferiscono non pensarci, Anthropic la vede come una questione legata: come fai a costruire sistemi veramente sicuri se non pensi alle conseguenze più estreme? È quasi filosofico, ma con conti bancari reali dietro.

La conversazione tocca anche come Anthropic differenzia il suo approccio. Loro sono ossessionati da cosa significa "controllare" un sistema AI che diventa mano mano più intelligente e autonomo. Non è robotica sciensa, è ingegneria pura: come mantieni un sistema tracciabile, prevedibile e "allineato" ai valori umani mentre diventa più potente? McCrory aggiunge la prospettiva economica — ovvero, cosa succede quando la transizione tecnologica è così rapida che i mercati del lavoro non riescono a stare dietro?

Quel che rende questa conversazione rinfrescante è che non è apocalittica né ingenua. Clark e McCrory parlano di risk management, non di doom. È il tono di chi dice: "Sì, il problema esiste. No, non è inevitabile. Ecco cosa facciamo al riguardo." Non è la retorica del hype che senti da altre parti del settore, e nemmeno il pessimismo cronico.