AI Memory and HBM Primer

AI Memory and HBM Primer è un'app di apprendimento mirata per comprendere perché l'architettura della memoria influenza le prestazioni dell'IA moderna.

Cosa imparerai:

- Cos'è l'HBM e perché è importante nei sistemi di IA pratici

- Compromessi tra larghezza di banda, capacità, latenza e utilizzo della memoria

- Nozioni di base su GPU, acceleratori, packaging e interconnessioni

- Colli di bottiglia nell'addestramento e nell'inferenza causati dai limiti di memoria

- Idee di ottimizzazione hardware-friendly per carichi di lavoro di IA di grandi dimensioni

- Come l'offerta, i costi e la progettazione del sistema influenzano le implementazioni reali

Struttura didattica:

- Lezioni suddivise in capitoli per uno studio autonomo

- Brevi spiegazioni seguite da verifiche di riepilogo

- Quiz che rafforzano i concetti chiave di ogni sezione

- Monitoraggio dei progressi sul dispositivo

- Non è necessario un account per iniziare a imparare

A chi è rivolto:

- Studenti che esplorano argomenti relativi all'hardware e ai sistemi di IA

- Ingegneri che desiderano un'introduzione più chiara all'HBM e alla memoria

- Studenti che necessitano di un'introduzione pratica all'infrastruttura di IA