LLM su Mac: La scuola per farli girare da zero sul tuo Apple
·2 min·Medio
“
Hai un Mac e ti chiedi come i modelli AI possano girare senza internet? Finalmente qualcuno ha creato una guida completa per capirlo e farlo con le tue mani.
In 30 secondi
01Alvaro Videla ha lanciato Inference School, un corso per far girare modelli AI (LLM) su chip Apple.
02Il progetto include 48 lezioni pratiche, esercizi e un'app Studio macOS dedicata.
→
💡
Cosa significa per te
Per la persona comune, questo significa che chiunque abbia un Mac e un minimo di curiosità può imparare a far girare modelli AI direttamente sul proprio computer, senza dipendere da servizi esterni o cloud.
Sembra che ogni settimana spunti un nuovo concetto AI da imparare. Tra un hype e l'altro, c'è una cosa che ogni modello linguistico ha, ma che pochi capiscono davvero.
·2 min·1·Medio
03Permette di imparare l'inferenza AI localmente, senza dipendere da servizi cloud esterni.
0101
Chi vuole far girare l'AI sul proprio Mac?
Mentre tutti scaricano app che fanno magie AI con un click, c'è chi si chiede come funzionano davvero. Non solo, c'è chi vuole metterci le mani, capendo come un modello di linguaggio, tipo quelli che rispondono alle tue domande, possa girare direttamente sul Mac. Sì, senza spedire i dati in giro per il mondo.
Questo è un po' il sogno di chi vuole autonomia o semplicemente curiosità. Invece di usare servizi online, l'idea è far lavorare il chip del tuo computer. E per chip, qui, intendiamo proprio quelli che Apple mette nei suoi Mac, dall'M1 in poi. Un bel vantaggio, non credi?
0202
Come funziona questa "scuola" per chip Apple?
Alvaro Videla, un noto sviluppatore, ha creato "Inference School" su GitHub per insegnare l' su Apple silicon. È un corso fatto e finito, non solo un mucchio di codice sparso. L'obiettivo è farti capire i "primi principi", cioè le basi di come i modelli AI elaborano le informazioni sul tuo hardware.
📬 Ti piace quello che leggi?
Ricevi le migliori notizie AI ogni settimana, direttamente in inbox.
Il pacchetto è bello corposo: include ben 48 lezioni guidate, complete di esercizi che puoi eseguire subito. C'è anche una "Studio" app nativa per macOS, che probabilmente ti aiuta a visualizzare e gestire i tuoi esperimenti. Per i più diligenti, c'è pure un libro che fa da compagno di viaggio. Tutto per farti diventare un piccolo mago dell'AI locale.
0303
Perché è importante imparare a farlo da zero?
Imparare a far girare l'AI da zero sul proprio Mac significa non solo capire, ma anche avere controllo. Non dipendi da server esterni o da abbonamenti costosi per sperimentare. Puoi testare, modificare e capire i limiti dei modelli direttamente sulla tua macchina, usando Swift e Metal, i linguaggi e le tecnologie di Apple per la potenza di calcolo.
Questo approccio "artigianale" è fondamentale per chi vuole andare oltre l'uso passivo dell'AI. Che tu sia uno sviluppatore o un semplice appassionato un po' smanettone, ti dà gli strumenti per esplorare un mondo complesso. Inoltre, è un bel modo per spremere al massimo il processore M-series del tuo Mac, usandolo per qualcosa di più delle solite app.
Bob Starr aveva creato un'app carina in poche ore: bastava sentire il flusso, farsi guidare dall'intuito, e il codice veniva fuori. Quello che non sapeva era che nel suo capolavoro ballava tranquillo un buco di sicurezza che avrebbe potuto spalancare tutto a chiunque.
