Domanda AI: il mercato si è sbagliato sul compute?

Pare proprio di sì, almeno secondo gli analisti di Windsor. Hanno lanciato l'allarme: il mercato globale ha scambiato un picco di interesse per una fame insaziabile di potenza di calcolo AI. Insomma, abbiamo esagerato con le aspettative.

Questo significa che gli investimenti massicci in chip e data center, spinti dall'onda dell'IA, potrebbero essere un po' fuori misura. Non è che l'AI non serva, ma forse non ci vorranno così tante schede grafiche come pensiamo per farla girare. Gli analisti di Windsor hanno recentemente suggerito che il mercato ha sovrastimato la domanda di capacità di calcolo per l'intelligenza artificiale.

Il punto è che c'è una bella differenza tra allenare un modello AI e usarlo tutti i giorni. Allenare richiede una potenza di calcolo enorme, una tantum. Usare il modello, la cosiddetta 'inferenza', ne richiede molta meno e in modo più distribuito.

Molti investimenti si concentrano sulla fase di training, immaginando un bisogno infinito di GPU per creare nuovi modelli. Ma una volta che i modelli sono pronti, la domanda per la loro esecuzione potrebbe non giustificare l'infrastruttura faraonica che stiamo costruendo. È come comprare un'intera centrale elettrica per ricaricare il telefono. Windsor ha indicato che la maggior parte della domanda attuale di compute AI si concentra sull'addestramento dei modelli, non sull'inferenza a lungo termine.

Per gli investitori, significa che forse è il caso di tirare il freno a mano sull'hype dei chip e dei data center AI. Le aspettative attuali potrebbero essere gonfiate, portando a correzioni di mercato in futuro se la domanda reale non decolla come previsto.

Per le aziende che sviluppano o usano l'AI, questo potrebbe tradursi in un mercato più razionale. Magari con costi di compute più accessibili in futuro, una volta che l'offerta supererà una domanda meno esasperata. Meno corsa all'oro, più efficienza. Secondo Windsor, una errata valutazione della domanda di compute AI potrebbe portare a una sovrapproduzione di infrastrutture e a future correzioni di mercato.