AI Memory and HBM Primer

Introducción a la Memoria y HBM para IA es una aplicación de aprendizaje especializada para comprender por qué la arquitectura de memoria influye en el rendimiento de la IA moderna.

Contenido:

- Qué es HBM y por qué es importante en los sistemas de IA prácticos

- Ventajas e inconvenientes del ancho de banda, la capacidad, la latencia y la utilización de la memoria

- Conceptos básicos de GPU, aceleradores, empaquetado e interconexión

- Cuellos de botella en el entrenamiento y la inferencia causados ​​por las limitaciones de memoria

- Ideas de optimización con reconocimiento de hardware para grandes cargas de trabajo de IA

- Cómo la oferta, el coste y el diseño del sistema afectan a las implementaciones reales

Diseño del aprendizaje:

- Lecciones por capítulos para un estudio a tu propio ritmo

- Explicaciones breves seguidas de puntos de repaso

- Cuestionarios que refuerzan las ideas clave de cada sección

- Seguimiento del progreso en el dispositivo

- No se requiere cuenta para empezar a aprender

Para quién es:

- Estudiantes que exploran temas de hardware y sistemas de IA

- Ingenieros que buscan una introducción más clara a HBM y la memoria

- Estudiantes que necesitan una introducción práctica a la infraestructura de IA