AI Memory and HBM Primer

AI Memory and HBM Primer é um aplicativo de aprendizado focado em entender por que a arquitetura de memória molda o desempenho da IA ​​moderna.

O que você vai estudar:

- O que é HBM e por que é importante em sistemas de IA práticos

- As compensações entre largura de banda, capacidade, latência e utilização da memória

- Noções básicas de GPUs, aceleradores, encapsulamento e interconexão

- Gargalos de treinamento e inferência causados ​​por limitações de memória

- Ideias de otimização com reconhecimento de hardware para grandes cargas de trabalho de IA

- Como o fornecimento, o custo e o design do sistema afetam as implementações reais

Design de aprendizado:

- Lições por capítulo para estudo individual

- Explicações curtas seguidas de pontos de revisão

- Questionários que reforçam as ideias principais de cada seção

- Acompanhamento do progresso no dispositivo

- Não é necessário criar uma conta para começar a aprender

Para quem é:

- Alunos que exploram tópicos de hardware e sistemas de IA

- Engenheiros que desejam uma introdução mais clara ao HBM e à memória

- Estudantes que precisam de uma introdução prática à infraestrutura de IA