AI: perché crediamo alle sue previsioni sul nostro comportamento?

Un recente studio pubblicato su Arxiv ha esaminato i meccanismi psicologici dietro la nostra fiducia nelle previsioni dell'intelligenza artificiale. La gente è affascinata dall'AI, ma quando predice il nostro comportamento, le cose si complicano. Ci fidiamo come di un oroscopo o di uno scienziato? La ricerca, intitolata "Super-intelligence or Superstition?", analizza cosa ci spinge a credere che un algoritmo sappia più di noi stessi.

Ci sono in gioco fattori come l'effetto dell'autorità o la semplice curiosità. Non è solo questione di precisione algoritmica, ma di come la nostra mente elabora queste informazioni. È un paradosso tutto umano, no?

Parecchi fattori psicologici giocano un ruolo, dall'attribuzione di causalità alla nostra inclinazione a cercare conferme. Gli autori del paper di Arxiv, pubblicato ad agosto 2024, suggeriscono che il nostro livello di credulità cambia. Dipende se l'AI ci dice qualcosa che ci piace o che ci spaventa. È un po' come quando leggi l'oroscopo: se dice "oggi fortuna", ci credi di più, giusto?

Un altro aspetto è la cosiddetta "teoria della mente". Tendiamo a proiettare intenzioni e "pensieri" sull'AI. Questo può farci percepire le sue predizioni non come semplici calcoli, ma come consigli quasi personali. È un errore, certo, ma molto umano.

Capire come le persone interagiscono psicologicamente con le predizioni AI è fondamentale per costruire sistemi più etici e utili. Se le AI dovranno davvero aiutarci a prendere decisioni personali, dovranno essere progettate con cura. Non basta che siano precise; devono anche essere percepite come affidabili e non manipolatrici. Altrimenti, l'effetto "superstizione" potrebbe avere la meglio sulla vera utilità.

Questo studio, disponibile su Arxiv ad agosto 2024, apre nuove prospettive per la progettazione di intelligenze artificiali più etiche. Aiuta a capire come evitare che le persone si fidino ciecamente o, al contrario, rifiutino a priori un aiuto potenzialmente valido. Vogliamo AI che siano partner, non guru digitali.