L'IA che uccide e nessuno sa come: il buco nero di Anthropic

Qui c'è un problema che nessuno vuole guardarsi in faccia: la gente che crea AI potentissime non ha idea di come vengono effettivamente usate quando le vende ai militari. Dario Amodei, il boss di Anthropic, ha dovuto ammettere pubblicamente che non sa se Claude — il suo modello di intelligenza artificiale — sia stato coinvolto nel coordinamento o nella pianificazione di un attacco aereo che ha colpito una scuola in Iran.

Non è uno scherzo da poco. Stiamo parlando di 120 bambini morti. E la risposta di chi ha creato lo strumento potenzialmente usato è: "Boh, non so". È come se una casa automobilistica vendesse auto ai criminali e poi dicesse "non sappiamo se le nostre macchine sono state usate per le rapine".

Il vero scandalo è che Anthropic, come molti altri giganti dell'AI, vende i suoi strumenti più avanzati al Dipartimento della Difesa americano senza avere alcun controllo effettivo su come finiscono dentro i sistemi militari. Non c'è trasparenza, non c'è tracciabilità, non c'è niente. Solo soldi che entrano e AI che esce per fare chissà che cosa.

Amodei ha ammesso che esiste un "gap di conoscenza più ampio" tra quello che i CEO sanno e quello che i militari fanno con i loro prodotti. Tradotto: "Non abbiamo idea di cosa stia succedendo laggiù, e francamente non abbiamo neanche provato molto a scoprirlo". È quasi ammirabile nella sua franchezza, se non fosse che stiamo parlando di morte e tecnologia.

Il tutto mette in luce un paradosso assurdo del momento: le aziende che costruiscono le macchine più intelligenti del pianeta rimangono completamente al buio su come vengono usate per decidere chi muore. È come aver creato il fucile più preciso mai esistito, venderlo all'esercito, e poi dire "non sappiamo dove spara, speriamo bene".

Questo non è un problema di Anthropic soltanto. È un problema sistemico. Tutte le big tech che vendono AI ai militari si trovano nella stessa situazione: consci che il loro software potrebbe essere usato in operazioni letali, ma comodamente inconsapevoli dei dettagli. È quasi perfetto, dal punto di vista di chi vuole fare soldi senza sentirsi responsabile.