Kerangka Materi
Pengantar Kontainerisasi Berbasis GPU
- Memahami penggunaan GPU dalam alur kerja pembelajaran mendalam
- Bagaimana Docker mendukung beban kerja berbasis GPU
- Pertimbangan kinerja utama
Menginstal dan Mengonfigurasi NVIDIA Container Toolkit
- Menyiapkan driver dan kompatibilitas CUDA
- Memvalidasi akses GPU di dalam kontainer
- Mengonfigurasi lingkungan runtime
Membangun Gambar Docker Berbasis GPU
- Menggunakan gambar dasar CUDA
- Mengepakkan framework AI dalam kontainer yang siap-GPU
- Mengelola dependensi untuk pelatihan dan inferensi
Menjalankan Beban Kerja AI Berbasis GPU
- Menjalankan tugas pelatihan menggunakan GPU
- Mengelola beban kerja multi-GPU
- Memantau penggunaan GPU
Mengoptimalkan Kinerja dan Alokasi Sumber Daya
- Membatasi dan mengisolasi sumber daya GPU
- Mengoptimalkan memori, ukuran batch, dan penempatan perangkat
- Penyetelan kinerja dan diagnostik
Inferensi Kontainerisasi dan Pelayanan Model
- Membangun kontainer siap-inferensi
- Menjalankan beban kerja berintensitas tinggi di GPU
- Mengintegrasikan pelari model dan API
Penskalaan Beban Kerja GPU dengan Docker
- Strategi untuk pelatihan terdistribusi berbasis GPU
- Penskalaan mikrolayanan inferensi
- Mengkoordinasikan sistem AI multi-kontainer
Keamanan dan Reliabilitas untuk Kontainer Berbasis GPU
- Menjamin akses GPU yang aman di lingkungan berbagi
- Menguatkan gambar kontainer
- Mengelola pembaruan, versi, dan kompatibilitas
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Pemahaman tentang prinsip-prinsip dasar pembelajaran mendalam
- Pengalaman dengan Python dan framework AI yang umum
- Kenalan dengan konsep-konsep dasar kontainerisasi
Audience
- Insinyur pembelajaran mendalam
- Tim penelitian dan pengembangan
- Pelatih model AI
Testimoni (5)
OC adalah hal baru bagi kami dan kami belajar banyak, serta laboratoriumnya sangat baik
sharkey dollie
Kursus - OpenShift 4 for Administrators
Diterjemahkan Mesin
Sangat informatif dan tepat sasaran. Praktik langsung
Gil Matias - FINEOS
Kursus - Introduction to Docker
Diterjemahkan Mesin
Laboratorium dan diskusi teknis.
Dinesh Panchal - AXA XL
Kursus - Advanced Docker
Diterjemahkan Mesin
Ini memberikan dasar yang baik untuk Docker dan Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Kursus - Docker (introducing Kubernetes)
Diterjemahkan Mesin
Saya sangat menikmati pengetahuan pelatih.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Kursus - Docker, Kubernetes and OpenShift for Developers
Diterjemahkan Mesin