Allucinazioni AI: i clienti maleducati sono peggio del solito?

Sì, e non è uno scherzo. L'intelligenza artificiale, quando "allucina", non solo si inventa fatti storici o formule chimiche, ma ora si spinge fino a darti consigli medici che non stanno né in cielo né in terra. Immagina di chiedere al tuo chatbot se puoi mangiare un certo piatto e lui ti risponde: "No, hai una rara allergia al pomodoro, l'AI lo sa".

Madison, una cameriera di New York City, ha raccontato a The Verge di clienti che arrivano al tavolo con la convinzione di avere nuove allergie. Questi clienti, dopo aver consultato un'AI generativa, dichiarano allergie ai crostacei o ad altri alimenti senza poi fare domande specifiche. Sembra quasi che si fidino più di un algoritmo che del cameriere che ha il menu davanti e la cucina dietro le spalle. Non è un po' assurdo?

Il problema non è solo l'allucinazione in sé, ma come le persone la interpretano. Un cliente che riceve una risposta "autorevole" da un'AI, anche se inventata, si sente più autorizzato a fare richieste o a discutere con il personale. Questo crea un bel casino per chi lavora a contatto con il pubblico, già abituato a gestire le richieste più strambe.

Questi clienti non mettono in discussione l'informazione fornita dall'AI, trattandola come oro colato. Per Madison, significa dover navigare tra la sicurezza alimentare e le convinzioni infondate dei clienti. È una situazione delicata che può portare a veri rischi per la salute o, nel migliore dei casi, a discussioni infinite per un piatto di pasta. Il servizio clienti, insomma, è diventato una specie di campo minato digitale.

Beh, la prossima volta che la tua AI ti dice che hai un'allergia al glutine dopo aver mangiato una pizza, forse è il caso di consultare un medico vero. Per le persone comuni, questo significa una cosa semplice: non fidarsi ciecamente di tutto quello che un'AI ti spara fuori. Soprattutto se si tratta di salute o di informazioni critiche.

Per i ristoratori e le aziende, è un campanello d'allarme serio. Devono capire come gestire le aspettative dei clienti che arrivano con "informazioni" generate dall'AI. Altrimenti, i poveri Madison del mondo continueranno a trovarsi tra l'incudine e il martello, cercando di servire un pasto senza che nessuno finisca all'ospedale per una presunta allergia inventata da un algoritmo.