Allucinazioni AI: perché i modelli non dicono 'non lo so'?
·2 min·Base
“
L'intelligenza artificiale sa tutto, o almeno così sembra. Ma cosa succede quando dovrebbe ammettere di non sapere? La risposta è spesso una bugia bella e buona.
In 30 secondi
01I modelli AI spesso inventano risposte invece di ammettere di non sapere.
02Il problema delle 'allucinazioni' è stato evidenziato nella Kaggle Benchmarking Challenge.
→
💡
Cosa significa per te
Per noi significa avere AI più oneste e affidabili, che non ci propinano frottole quando non sanno la risposta. Meno tempo perso a verificare le loro 'verità' inventate.
Il mercato tech è una giungla, ma qualcuno ha la mappa giusta. Un distributore di elettronica, Asbis, sta per rimettere in discussione la sua intera strategia.
·1 min·1·Medio
03Manca una chiara funzione di astensione per migliorare l'affidabilità delle AI.
0101
Perché l'AI preferisce inventare?
L'intelligenza artificiale ha un piccolo vizio: non le piace fare scena muta. Quando non conosce una risposta, spesso se la inventa di sana pianta, un fenomeno che nel gergo tecnico chiamiamo "". È come il compagno di classe che pur di non prendere zero, butta giù qualsiasi cosa sul foglio, sperando nel miracolo.
Questo comportamento è un bel grattacapo. Se chiedi all'AI qualcosa di specifico e lei non ha i dati per rispondere, dovrebbe dirlo chiaramente. Invece, si sforza di formulare una risposta plausibile, che però è del tutto falsa. La Kaggle Benchmarking Challenge ha messo in luce proprio questa tendenza dei modelli a fabbricare informazioni, evidenziando una lacuna significativa nella loro capacità di astensione.
0202
Cosa manca per farle stare zitte?
Il problema di fondo è che ai modelli manca una vera e propria "funzione di astensione". Non sono stati allenati a riconoscere quando una domanda è fuori dalla loro portata o quando le informazioni a disposizione sono insufficienti. Pensaci: se non sai qualcosa, dici "non lo so". L'AI, invece, non ha questa opzione ben definita nella sua programmazione.
📬 Ti piace quello che leggi?
Ricevi le migliori notizie AI ogni settimana, direttamente in inbox.
La soluzione, o almeno una parte di essa, sarebbe insegnare ai modelli a valutare l'incertezza delle loro risposte. Se l'AI potesse stimare la probabilità che la sua risposta sia corretta, potrebbe decidere di non rispondere affatto sotto una certa soglia di fiducia. Il concetto di AI "abstention" è un campo di ricerca attivo proprio per ridurre le risposte inventate.
0303
E a noi, cosa cambia?
Per noi utenti, significa avere a che fare con strumenti più affidabili. Immagina di usare un'AI per informazioni mediche o legali: una risposta inventata potrebbe avere conseguenze serie. Un'AI che sa quando stare zitta è un'AI più sicura e, diciamocelo, molto più onesta. Ci risparmieremmo un sacco di tempo a verificare le sue "verità".
Attualmente, stiamo spingendo l'AI a essere sempre più brava a rispondere, ma non abbastanza a dire "passo". Migliorare la capacità dell'AI di astenersi dal rispondere a domande sconosciute potrebbe aumentare significativamente la fiducia negli assistenti virtuali e nei sistemi di supporto decisionale. È un piccolo passo per l'AI, un grande passo per la nostra sanità mentale.
Immagina di insegnare a un'AI una lingua che sembra fatta apposta per confonderla. Bene, qualcuno l'ha fatto con il georgiano, e i risultati sono sorprendenti.
Certo che a volte i soldi spariti non li porta via il vento. A Pechino, la polizia ha deciso di vederci chiaro su alcune attività finanziarie un po' troppo creative.
NUOVO
