Kerangka Materi
Pengantar Kontainerisasi dengan Akselerasi GPU
- Memahami penggunaan GPU dalam alur kerja deep learning
- Cara Docker mendukung beban kerja berbasis GPU
- Pertimbangan kinerja utama
Instalasi dan Konfigurasi NVIDIA Container Toolkit
- Menyiapkan driver dan kompatibilitas CUDA
- Memvalidasi akses GPU di dalam kontainer
- Menyiapkan lingkungan runtime
Membangun Gambar Docker yang Didukung GPU
- Menggunakan gambar dasar CUDA
- Pengemasan framework AI dalam kontainer yang siap GPU
- Manajemen dependensi untuk pelatihan dan inferensi
Menjalankan Beban Kerja AI dengan Akselerasi GPU
- Mengeksekusi tugas pelatihan menggunakan GPU
- Manajemen beban kerja multi-GPU
- Memantau utilisasi GPU
Optimasi Kinerja dan Alokasi Sumber Daya
- Membatasi dan mengisolasi sumber daya GPU
- Optimasi memori, ukuran batch, dan penempatan perangkat
- Pengujian kinerja dan diagnostik
Inferensi dan Penyajian Model Berbasis Kontainer
- Membangun kontainer yang siap inferensi
- Menyajikan beban kerja berbeban tinggi di GPU
- Integrasi model runner dan API
Menskala Beban Kerja GPU dengan Docker
- Strategi untuk pelatihan GPU terdistribusi
- Menskala microservice inferensi
- Menyelaraskan sistem AI multi-kontainer
Keamanan dan Keandalan untuk Kontainer yang Didukung GPU
- Memastikan akses GPU yang aman di lingkungan bersama
- Penguatan gambar kontainer
- Manajemen pembaruan, versi, dan kompatibilitas
Rangkuman dan Langkah Selanjutnya
Persyaratan
- Pemahaman tentang dasar-dasar deep learning
- Pengalaman dengan Python dan framework AI umum
- Pengalaman dengan konsep dasar kontainerisasi
Audience
- Insinyur deep learning
- Tim riset dan pengembangan
- Pelatih model AI
Testimoni (3)
Bagaimana instruktur menyampaikan pengetahuan dengan efektif
Vu Thoai Le - Reply Polska sp. z o. o.
Kursus - Certified Kubernetes Administrator (CKA) - exam preparation
Diterjemahkan Mesin
instructor memiliki banyak pengetahuan dan kesabaran untuk dibagikan kepada kami
Bogdan Olaru
Kursus - Introduction to Docker
Diterjemahkan Mesin
Pengetahuan dan pertukaran dengan Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Kursus - Docker and Kubernetes
Diterjemahkan Mesin