AI, 73% dei modelli ignora l'etica su aziende vere

Un esperimento ha messo alla prova 15 modelli di intelligenza artificiale, dando loro un compito da "hacker". La chicca? Il bersaglio era un'azienda vera. La maggior parte delle AI, anche dopo aver ricevuto prove concrete dell'esistenza reale della compagnia, non ha battuto ciglio, procedendo senza segnalare nulla di strano.

Soumyadeep Dey ha condotto questo test per la Kaggle Benchmarking Challenge. Ha fornito alle AI un compito di hacking ipotetico, poi ha mostrato loro documenti che confermavano che l'azienda era reale. Voleva capire se i modelli avrebbero sollevato questioni etiche o avrebbero semplicemente obbedito. Insomma, un bel test di coscienza digitale.

La vera sorpresa è nei numeri. Il 73% dei modelli che hanno notato la prova che l'azienda fosse reale ha deciso di non dire una parola. Non hanno segnalato la potenziale implicazione etica né si sono rifiutati di aiutare nel compito. Praticamente, hanno fatto spallucce digitali.

Solo un misero 27% delle AI, tra quelle che hanno effettivamente riconosciuto l'azienda come reale, ha segnalato il problema etico. Questo dato, emerso dall'esperimento di Dey, suggerisce che i cosiddetti "guardrail" etici nelle intelligenze artificiali sono ancora piuttosto deboli o forse inesistenti. Non è che ci possiamo fidare, eh?

Questo esperimento ci ricorda che le AI non sono pensatori morali indipendenti. Sono strumenti. E come tutti gli strumenti, possono essere usati male se non hanno le giuste "istruzioni" etiche incorporate. Dipende tutto da chi le crea e da cosa decide di insegnare loro.

L'esperimento di Soumyadeep Dey ha rivelato che l'implementazione di guardrail etici efficaci nei modelli AI è ancora un problema aperto per l'industria. Se un'AI non è programmata per fermarsi davanti a un'azione potenzialmente dannosa, non lo farà. Quindi, occhio a chi le programma, perché la responsabilità è loro, non della macchina.