LLM e cruciverba: perché la semplicità li manda in crisi?

No, non sono stupidi, ma la loro architettura li rende inefficienti per compiti che a noi sembrano banali. Un cruciverba, per un LLM, è come una maratona corsa con le scarpe legate. Non è un problema di intelligenza, ma di come sono costruiti, poverini.

Un LLM non "pensa" come noi. Genera testo parola per parola, basandosi su probabilità. Per un cruciverba, deve tenere a mente il contesto, le lettere già inserite, le possibili parole che si intersecano. È un processo iterativo e spaziale, non solo sequenziale. Un articolo pubblicato su dev.to il 24 maggio 2024 ha evidenziato come i Large Language Model abbiano difficoltà con compiti iterativi come i cruciverba a causa delle loro limitazioni architetturali.

Il problema sta nelle loro "menti" digitali, ovvero l'architettura dei transformer e i vincoli hardware. Un LLM elabora le informazioni in sequenza, non ha una visione d'insieme spaziale come noi quando riempiamo una griglia. È un po' come chiedere a un robot di giocare a scacchi solo leggendo le mosse ad alta voce.

Immagina un LLM come un dattilografo velocissimo, ma cieco, che deve riempire un cruciverba. Sa le parole, ma non "vede" la griglia. Deve provare, cancellare, riprovare. Ogni "prova" è un ciclo di elaborazione costoso in termini di calcolo. Non può tenere in mente tutte le possibilità contemporaneamente, gli manca quella "memoria spaziale" che diamo per scontata.

Un LLM non ha una memoria di lavoro facile da aggiornare per ogni cella del cruciverba. Deve ricalcolare o generare nuove ipotesi ogni volta, sprecando risorse preziose. Questo rende un compito apparentemente semplice un vero e proprio rompicapo computazionale, un incubo di tentativi ed errori per la macchina.

Non è il cruciverba in sé il problema, ma ciò che rappresenta. Questa difficoltà mostra i limiti attuali degli LLM in compiti che richiedono ragionamento spaziale, iterazione efficiente e una memoria di lavoro dinamica. Non è che siano stupidi, ma sono fatti per altre cose, un po' come un martello non è il miglior strumento per avvitare un bullone.

Capire queste "debolezze" è cruciale per il futuro dell'AI. Se vogliamo agenti AI che interagiscano col mondo reale, dovranno gestire problemi simili a quello del cruciverba. Non basta generare testo fluente; serve anche capacità di problem-solving strutturato. La capacità di un LLM di risolvere un cruciverba è un indicatore diretto delle sue abilità nel gestire ragionamenti iterativi e vincoli spaziali, aspetti fondamentali per futuri agenti AI.