Chi decide se l'IA è troppo pericolosa? (Spoiler: nessuno sa)

Il vero casino inizia qui: Anthropic è una delle aziende di IA più serie in circolazione, quella che fa i bei discorsi sulla sicurezza. Poi rilascia Fable 5 e all'improvviso c'è un pasticcio perché il governo americano — o almeno parte di esso — ha qualcosa da ridire. Il problema non è che il modello è cattivo in sé. Il problema è che non esiste un meccanismo universale per decidere cosa sia "troppo rischioso". È come chiedere a cinque persone diverse di stabilire quando una macchina è troppo veloce: uno dice a 80 km/h, uno a 200, uno dice "dipende", e uno non ha ancora risposto.

Nel podcast Decoder, Hayden Field — senior reporter di IA per The Verge — scava nella questione e scopre una cosa interessante: la comunità tech è divisa. C'è chi pensa che le aziende dovrebbero autoregolarsi (spoiler: non funziona mai), chi vuole una regolamentazione statale (spoiler: i governi non capiscono di tech), e chi sostiene che dovrebbe essere tutto open source così "chiunque può controllare" (spoiler: chiunque include anche le persone cattive). Nessuno ha torto completamente, ma nessuno ha ragione completamente.

La vera questione è: chi ha il diritto di decidere? Le aziende che costruiscono l'IA? No, sono di parte. I governi? Faticano a stare al passo anche con i social. Degli esperti indipendenti? Quali, e chi li paga? È un po' come cercare di fare una regola sulla internet quando non sai neanche come accendere un computer.

E poi c'è Trump. La sua amministrazione entra in scena e la conversazione cambia subito di tono. Non è più "Hey, facciamo delle linee guida etiche", diventa "Chi ha il controllo qui?" Politica, sicurezza nazionale, competizione tecnologica globale — tutto si mescola e la discussione su cosa sia "troppo pericoloso" diventa improvvisamente una questione di potere, non solo di sicurezza.

Field affronta il paradosso: se dici sì a tutto, rischi di creare monster invisibili. Se dici no a tutto, blocchi l'innovazione. Se non dici nulla, il problema non sparisce, semplicemente continua underground. Nel frattempo, le aziende continuano a costruire, i governi continuano a fare riunioni, e la gente normale continua a usare chatbot senza avere idea di cosa stia succedendo dietro le quinte.

La conclusione di Field — non esplicita, ma evidente — è che il sistema attuale non funziona. Non perché le persone coinvolte siano incompetenti (anche se alcuni lo sono), ma perché il problema è strutturalmente irrisolvibile finché ognuno gioca per conto proprio. Serve una conversazione più vera, meno posturistica. E serve presto.