PyTorch non è magia: come scoprire cosa rallenta il tuo codice

Il profiling in PyTorch è tipo scoprire dove stai spendendo il tempo quando cucini: senza misurare, pensi che sia la pentola lenta, ma magari sei tu che stai lì a pelare le cipolle per venti minuti. Ecco quello che serve il torch.profiler. È uno strumento nativo di PyTorch che ti dice esattamente quale operazione ti mangia il tempo e la memoria, riga per riga.

Come funziona? Semplicissimo: avvolgi il tuo codice con il profiler, lo fai girare una volta, e lui ti produce un rapporto dettagliato. Non devi diventare un ingegnere per leggerlo—vedi i tempi, le operazioni che li causano, e capisci subito se è il tuo modello a essere lento o se è il trasferimento dei dati tra GPU e CPU a farti perdere tempo.

I principianti di solito pensano che il loro modello sia scritto male, quando in realtà il problema è che stanno caricando i dati in modo pessimo, oppure che il batch size è troppo grande per la memoria disponibile. Con il profiler scopri in due minuti cosa sta succedendo davvero.

Hugging Face ha scritto una guida completa su come usare torch.profiler senza sbattersi la testa. Ti mostra come settare lo strumento, come interpretare i risultati, e soprattutto come non commettere gli errori più comuni che fanno tutti i novizi. È la parte uno di una serie, quindi arriveranno altri dettagli per i casi più complicati.

Perché importa? Perché è la differenza tra ottimizzare il codice alla cieca (tipo agitare una bacchetta magica e sperare) e sapere esattamente dove mettere le mani. Se fai machine learning, che sia hobby o lavoro, questa è una skill che ti fa risparmiare ore di frustrazione.

La cosa bella è che una volta capito il concetto, lo riusi su tutti i tuoi progetti. Non è una cosa che impari e dimentichi—diventa una abitudine, e il tuo codice gira sempre meglio.