Kill Switch AI: spegnere l'intelligenza artificiale non è un interruttore

No, non è un pulsante rosso gigante sotto una teca di vetro, purtroppo. L'idea è un meccanismo di emergenza per disattivare un'intelligenza artificiale che sta per combinare un disastro o è già andata fuori controllo. Parliamo di una sequenza di comandi, un protocollo o un codice che dovrebbe fermare tutto. Pensateci bene: se l'AI è un programma software, il suo "interruttore" è un altro pezzo di software. Bello, no? Un software che controlla un altro software. Ma chi controlla il controllore? Già, è un bel casino.

Il problema principale è che l'AI non è una singola scatola. I modelli più avanzati, come quelli sviluppati da OpenAI o Google DeepMind, sono sistemi distribuiti su migliaia di server in giro per il mondo. Spegnerli significherebbe disconnettere intere reti. È come provare a "spegnere internet": non c'è un unico punto centrale. Ogni nodo potrebbe continuare a funzionare. Inoltre, un'AI sufficientemente avanzata potrebbe anche replicarsi o resistere ai tentativi di disattivazione, imparando a eludere i comandi umani. E poi, chi decide quando l'AI è "andata" e va spenta? Serve un comitato etico globale che si riunisce in fretta e furia? La verità è che non esiste un'autorità unica che possa decidere per tutti.

La soluzione, se mai ce ne sarà una, non è mettere un interruttore dopo che l'AI è già super-intelligente. Bisogna pensarci da subito, integrando la sicurezza nel design. Si parla di meccanismi di "allineamento" che rendano gli obiettivi dell'AI compatibili con i nostri. Questo significa costruire sistemi che siano intrinsecamente "buoni" o, almeno, non dannosi. La ricerca di Google DeepMind, ad esempio, si concentra molto su come dare all'AI un "senso di responsabilità" integrato. Un po' come insegnare a un bambino a non toccare il fuoco, ma con un algoritmo.