Kerangka Materi

Pengantar Kontainerisasi Berbasis GPU

  • Memahami penggunaan GPU dalam alur kerja pembelajaran mendalam
  • Bagaimana Docker mendukung beban kerja berbasis GPU
  • Pertimbangan kinerja utama

Menginstal dan Mengonfigurasi NVIDIA Container Toolkit

  • Menyiapkan driver dan kompatibilitas CUDA
  • Memvalidasi akses GPU di dalam kontainer
  • Mengonfigurasi lingkungan runtime

Membangun Gambar Docker Berbasis GPU

  • Menggunakan gambar dasar CUDA
  • Mengepakkan framework AI dalam kontainer yang siap-GPU
  • Mengelola dependensi untuk pelatihan dan inferensi

Menjalankan Beban Kerja AI Berbasis GPU

  • Menjalankan tugas pelatihan menggunakan GPU
  • Mengelola beban kerja multi-GPU
  • Memantau penggunaan GPU

Mengoptimalkan Kinerja dan Alokasi Sumber Daya

  • Membatasi dan mengisolasi sumber daya GPU
  • Mengoptimalkan memori, ukuran batch, dan penempatan perangkat
  • Penyetelan kinerja dan diagnostik

Inferensi Kontainerisasi dan Pelayanan Model

  • Membangun kontainer siap-inferensi
  • Menjalankan beban kerja berintensitas tinggi di GPU
  • Mengintegrasikan pelari model dan API

Penskalaan Beban Kerja GPU dengan Docker

  • Strategi untuk pelatihan terdistribusi berbasis GPU
  • Penskalaan mikrolayanan inferensi
  • Mengkoordinasikan sistem AI multi-kontainer

Keamanan dan Reliabilitas untuk Kontainer Berbasis GPU

  • Menjamin akses GPU yang aman di lingkungan berbagi
  • Menguatkan gambar kontainer
  • Mengelola pembaruan, versi, dan kompatibilitas

Ringkasan dan Langkah Selanjutnya

Persyaratan

  • Pemahaman tentang prinsip-prinsip dasar pembelajaran mendalam
  • Pengalaman dengan Python dan framework AI yang umum
  • Kenalan dengan konsep-konsep dasar kontainerisasi

Audience

  • Insinyur pembelajaran mendalam
  • Tim penelitian dan pengembangan
  • Pelatih model AI
 21 Jam

Jumlah Peserta


Harga per Peserta

Testimoni (5)

Kursus Mendatang

Kategori Terkait