AI test: 12 modelli su 13 sbagliano il nome, pur sapendolo

Immagina di sapere la risposta giusta ma di scrivere quella vecchia per abitudine. È quello che hanno fatto la maggior parte dei modelli AI testati in una nuova sfida. Dodici modelli su tredici, pur conoscendo il nome aggiornato di qualcosa, hanno preferito usare quello obsoleto, come un nonno che chiama ancora "Twitter" quello che ormai è "X".

Nella Kaggle Benchmarking Challenge, 12 modelli di intelligenza artificiale su 13 hanno mostrato di preferire nomi obsoleti nonostante conoscessero quelli nuovi. Questo test dimostra una certa "pigrizia" o resistenza al cambiamento da parte delle macchine. Sembra che anche le intelligenze artificiali abbiano le loro fissazioni, un po' come noi con le vecchie abitudini.

La ragione principale sta probabilmente nel modo in cui vengono addestrati questi modelli. Le AI imparano da quantità enormi di dati, spesso raccolti in un certo periodo. Se un nome cambia dopo il loro addestramento principale, possono avere difficoltà a incorporare la novità, anche se la conoscono. È come se avessero una memoria di ferro per il passato, ma facessero più fatica ad aggiornare il presente.

La sfida evidenzia come i modelli AI possano avere difficoltà ad aggiornare le loro basi di conoscenza, anche con input corretti. Non è solo una questione di pignoleria. Se un'AI non riesce ad aggiornare un nome semplice, cosa succede con informazioni più complesse e in rapida evoluzione? Questa tendenza solleva domande sull'affidabilità delle risposte che ci danno, specialmente quando la freschezza dei dati è cruciale.

Per chi usa quotidianamente queste tecnologie, la morale è chiara: non fidatevi ciecamente. Anche se un'AI sembra sicura, potrebbe basarsi su informazioni non del tutto fresche. Un modello può "sapere" il nome nuovo, ma scegliere comunque quello vecchio, magari perché è più frequente nei dati con cui è stato addestrato.

Questa tendenza suggerisce agli utenti di verificare sempre le informazioni fornite dai modelli AI, specialmente su dati in rapida evoluzione. Insomma, non prendete per oro colato tutto quello che vi dice un'AI. Usatela come un assistente sveglio, ma ricordatevi che il cervello, quello vero, è ancora il vostro. O no?