L'IA si autocontrollerà? I politici americani iniziano a preoccuparsene

Un senatore repubblicano ha lanciato un'idea che suona bizzarra solo finché non la pensi per cinque minuti: e se l'intelligenza artificiale diventasse così avanzata da migliorarsi da sola, senza bisogno di programmatori umani che le dicano come fare? Per questo motivo, ha scritto una lettera all'amministrazione Trump dicendo che le agenzie governative dovrebbero considerare questo rischio quando testano i modelli più innovativi.

Il punto non è essere paranoici (beh, un po' sì). Il punto è che il governo americano ha lanciato un programma di test volontari per le IA più potenti — una specie di controllo di qualità per evitare che la tecnologia faccia danni. Ma se i modelli avanzati possono auto-migliorarsi, allora i test attuali potrebbero essere completamente inutili: è come fare una revisione auto e controllare solo il livello dell'olio, mentre il motore si auto-ripara da solo.

La cosa interessante è che non si tratta di uno scienziato in laboratorio che dice "attenzione, potrebbe succedere". È un politico che chiede al governo di prepararsi a questo scenario. Tradotto: il dibattito sull'IA passa finalmente da "potrebbe essere un problema" a "ok, come la mettiamo?". E no, nessuno ha ancora risposte solide.

Il senatore sostanzialmente dice: quando testate le IA più avanzate, fatelo come se potessero migliorarsi autonomamente. Non aspettate che accada per scoprire che il vostro sistema di controllo era fondamentalmente inutile. È una richiesta ragionevole, soprattutto considerando che il settore privato costruisce questi mostri con la filosofia del "vediamo che succede" e spesso solo dopo scopri i problemi.

La vera questione è che nessuno sa davvero se e quando accadrà — ma se accade di sorpresa, il governo avrà l'alibi perfetto: "Non ci avevano avvertito". Ora, almeno, avvertiti sono.