Kerangka Materi
Persiapan Model Pembelajaran Mesin untuk Deployment
- Mengemas model dengan Docker
- Mengekspor model dari TensorFlow dan PyTorch
- Pertimbangan versi serta penyimpanan model
Penyajian Model pada Kubernetes
- Gambaran umum mengenai server inferensi
- Menyebarkan TensorFlow Serving dan TorchServe
- Mengatur endpoint model
Teknik Optimasi Inferensi
- Strategi pengelompokan permintaan
- Pengolahan permintaan secara simultan
- Penyetelan nilai latensi serta kapasitas pemrosesan data
Autoscaling untuk Beban Kerja Pembelajaran Mesin
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Penyediaan GPU serta Manajemen Sumber Daya
- Mengonfigurasi node yang menggunakan GPU
- Gambaran umum mengenai plugin perangkat NVIDIA
- Permintaan dan batasan sumber daya bagi beban kerja ML
Strategi Rilis serta Penyebaran Model
- Penerapan strategi blue/green deployment<\/li>
- Pola penyebaran canary rollout
- Pengujian A/B untuk evaluasi performa model
Monitoring dan Observabilitas Model di Lingkungan Produksi
- Metrik kunci yang digunakan pada proses inferensi
- Praktik pencatatan log serta tracing aktivitas sistem
- Pembuatan dashboard dan pengaturan mekanisme alerting
Kebijakan Keamanan dan Keandalan Sistem
- Jaminan keamanan endpoint model
- Regulasi kebijakan jaringan serta kontrol akses
- Cara memastikan ketersediaan sistem secara terus-menerus
Penutup dan Langkah Selanjutnya
Persyaratan
- Pemahaman mengenai alur kerja aplikasi yang dikemas dalam kontainer
- Pengalaman dalam membuat model pembelajaran mesin berbasis Python
- Pengetahuan dasar tentang prinsip-prinsip Kubernetes
Target Peserta
- Insinyur pembelajaran mesin
- Insinyur DevOps
- Tim pengembangan platform
Testimoni (4)
pemahaman dasar tentang container/Kubernetes dan cara mereka berinteraksi fitur-fitur platform OpenShift
Eric Scholze - NOW IT GmbH
Kursus - Introduction to Containers, Kubernetes & OpenShift
Diterjemahkan Mesin
Tentang mikroservis dan cara merawat Kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Kursus - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Diterjemahkan Mesin
Bagaimana instruktur menyampaikan pengetahuan dengan efektif
Vu Thoai Le - Reply Polska sp. z o. o.
Kursus - Certified Kubernetes Administrator (CKA) - exam preparation
Diterjemahkan Mesin
Pengetahuan dan pertukaran dengan Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Kursus - Docker and Kubernetes
Diterjemahkan Mesin