AI Memory and HBM Primer

AI Memory and HBM Primer là ứng dụng học tập chuyên sâu giúp bạn hiểu tại sao kiến ​​trúc bộ nhớ định hình hiệu năng AI hiện đại.

Những gì bạn sẽ học:

- HBM là gì và tại sao nó quan trọng trong các hệ thống AI thực tế

- Sự đánh đổi giữa băng thông, dung lượng, độ trễ và hiệu suất sử dụng bộ nhớ

- Kiến thức cơ bản về GPU, bộ tăng tốc, đóng gói và kết nối

- Các nút thắt cổ chai trong huấn luyện và suy luận do giới hạn bộ nhớ gây ra

- Các ý tưởng tối ưu hóa dựa trên phần cứng cho các khối lượng công việc AI lớn

- Cách cung cấp, chi phí và thiết kế hệ thống ảnh hưởng đến việc triển khai thực tế

Thiết kế học tập:

- Bài học theo chương để tự học

- Giải thích ngắn gọn kèm theo các điểm kiểm tra ôn tập

- Bài kiểm tra củng cố các ý chính trong mỗi phần

- Theo dõi tiến độ trên thiết bị

- Không cần tài khoản để bắt đầu học

Đối tượng phù hợp:

- Người học đang tìm hiểu về các chủ đề phần cứng và hệ thống AI

- Kỹ sư muốn có kiến ​​thức cơ bản rõ ràng hơn về HBM và bộ nhớ

- Sinh viên cần một giới thiệu thực tiễn về cơ sở hạ tầng AI