Kursus Pelatihan DeepSpeed untuk Deep Learning
DeepSpeed adalah pustaka pengoptimalan pembelajaran mendalam yang memudahkan penskalaan model pembelajaran mendalam pada perangkat keras terdistribusi. Dikembangkan oleh Microsoft, DeepSpeed terintegrasi dengan PyTorch untuk memberikan penskalaan yang lebih baik, pelatihan yang lebih cepat, dan pemanfaatan sumber daya yang lebih baik.
Pelatihan langsung yang dipimpin instruktur ini (daring atau di tempat) ditujukan untuk ilmuwan data dan insinyur pembelajaran mesin tingkat pemula hingga menengah yang ingin meningkatkan kinerja model pembelajaran mendalam mereka.
Pada akhir pelatihan ini, peserta akan dapat:
- Memahami prinsip pembelajaran mendalam yang terdistribusi.
- Instal dan konfigurasikan DeepSpeed.
- Skalakan model pembelajaran mendalam pada perangkat keras terdistribusi menggunakan DeepSpeed.
- Terapkan dan bereksperimen dengan fitur DeepSpeed untuk pengoptimalan dan efisiensi memori.
Format Kursus
- Kuliah dan diskusi interaktif.
- Banyak latihan dan praktik.
- Implementasi langsung di lingkungan lab langsung.
Opsi Kustomisasi Kursus
- Untuk meminta pelatihan khusus untuk kursus ini, silakan hubungi kami untuk mengaturnya.
Kerangka Materi
Perkenalan
- Tinjauan umum tantangan penskalaan pembelajaran mendalam
- Ikhtisar DeepSpeed dan fitur-fiturnya
- DeepSpeed vs. pustaka pembelajaran mendalam terdistribusi lainnya
Memulai
- Menyiapkan lingkungan pengembangan
- Menginstal PyTorch dan DeepSpeed
- Mengonfigurasi DeepSpeed untuk pelatihan terdistribusi
Fitur Optimasi DeepSpeed
- Alur pelatihan DeepSpeed
- ZeRO (optimasi memori)
- Titik pemeriksaan aktivasi
- Titik pemeriksaan gradien
- Paralelisme pipa
Skala Model dengan DeepSpeed
- Penskalaan dasar menggunakan DeepSpeed
- Teknik penskalaan tingkat lanjut
- Pertimbangan kinerja dan praktik terbaik
- Teknik debugging dan pemecahan masalah
Topik DeepSpeed Lanjutan
- Teknik optimasi lanjutan
- Menggunakan DeepSpeed dengan pelatihan presisi campuran
- DeepSpeed pada perangkat keras yang berbeda (misalnya GPU, TPU)
- DeepSpeed dengan beberapa node pelatihan
Mengintegrasikan DeepSpeed dengan PyTorch
- Mengintegrasikan DeepSpeed dengan alur kerja PyTorch
- Menggunakan DeepSpeed dengan PyTorch Lightning
Penyelesaian Masalah
- Men-debug masalah umum DeepSpeed
- Pemantauan dan pencatatan
Ringkasan dan Langkah Berikutnya
- Rekap konsep dan fitur utama
- Praktik terbaik untuk menggunakan DeepSpeed dalam produksi
- Sumber daya lebih lanjut untuk mempelajari lebih lanjut tentang DeepSpeed
Persyaratan
- Pengetahuan menengah tentang prinsip-prinsip pembelajaran mendalam
- Pengalaman dengan PyTorch atau framework deep learning serupa
- Keakraban dengan pemrograman Python
Hadirin
- Ilmuwan data
- Insinyur pembelajaran mesin
- Pengembang
Kursus Pelatihan Terbuka membutuhkan minimal 5 peserta.
Kursus Pelatihan DeepSpeed untuk Deep Learning - Pemesanan
Kursus Pelatihan DeepSpeed untuk Deep Learning - Penyelidikan
DeepSpeed untuk Deep Learning - Permintaan Konsultasi
Kursus Mendatang
Kursus Terkait
Stable Diffusion Lanjutan Deep Learning untuk Penerjemahan Teks-ke-Gambar
21 JamPelatihan langsung yang dipandu instruktur di Indonesia (online atau di tempat) ini ditujukan untuk ilmuwan data tingkat menengah hingga mahir, insinyur pembelajaran mesin, peneliti pembelajaran mendalam, dan pakar visi komputer yang ingin memperluas pengetahuan dan keterampilan mereka dalam pembelajaran mendalam untuk pembuatan teks menjadi gambar.
Pada akhir pelatihan ini, peserta akan dapat:
- Memahami arsitektur dan teknik pembelajaran mendalam tingkat lanjut untuk pembuatan teks menjadi gambar.
- Terapkan model dan pengoptimalan yang kompleks untuk sintesis gambar berkualitas tinggi.
- Mengoptimalkan kinerja dan skalabilitas untuk kumpulan data besar dan model yang kompleks.
- Sesuaikan hiperparameter untuk kinerja dan generalisasi model yang lebih baik.
- Integrasikan Stable Diffusion dengan kerangka kerja dan alat pembelajaran mendalam lainnya
AlphaFold
7 JamPelatihan langsung yang dipimpin instruktur di Indonesia (online atau di tempat) ini ditujukan untuk para ahli biologi yang ingin memahami cara kerja AlphaFold dan menggunakan model AlphaFold sebagai panduan dalam studi eksperimental mereka.
Pada akhir pelatihan ini, peserta akan dapat:
- Memahami prinsip dasar AlphaFold.
- Pelajari cara kerja AlphaFold.
- Pelajari cara menafsirkan prediksi dan hasil AlphaFold.
Applied AI dari Awal
28 JamIni adalah kursus 4 hari yang memperkenalkan AI dan penerapannya. Ada opsi untuk memiliki satu hari tambahan untuk melaksanakan proyek AI setelah menyelesaikan kursus ini.
Pelatihan Jaringan Sarat Neural Deep Learning dengan Chainer
14 JamPelatihan langsung yang dipimpin instruktur di Indonesia (online atau di tempat) ini ditujukan untuk peneliti dan pengembang yang ingin menggunakan Chainer untuk membangun dan melatih jaringan saraf di Python sambil membuat kode mudah di-debug.
Pada akhir pelatihan ini, peserta akan dapat:
- Siapkan lingkungan pengembangan yang diperlukan untuk mulai mengembangkan model jaringan saraf.
- Menentukan dan menerapkan model jaringan saraf menggunakan kode sumber yang mudah dipahami.
- Jalankan contoh dan modifikasi algoritma yang ada untuk mengoptimalkan model pelatihan pembelajaran mendalam sambil memanfaatkan GPU untuk kinerja tinggi.
Computer Vision dengan Google Colab dan TensorFlow
21 JamPelatihan ini dipandu instruktur secara langsung di Indonesia (online atau tatap muka) ditujukan untuk profesional tingkat lanjut yang ingin memperdalam pemahaman mereka tentang computer vision dan mengeksplorasi kemampuan TensorFlow untuk mengembangkan model visi canggih menggunakan Google Colab.
Pada akhir pelatihan ini, peserta akan dapat:
- Membuat dan melatih convolutional neural networks (CNNs) menggunakan TensorFlow.
- Memanfaatkan Google Colab untuk pengembangan model berbasis cloud yang skala besar dan efisien.
- Mengimplementasikan teknik preprocessing gambar untuk tugas-tugas computer vision.
- Menerapkan model visi komputer untuk aplikasi dunia nyata.
- Menggunakan transfer learning untuk meningkatkan kinerja model CNN.
- Memvisualisasikan dan menginterpretasikan hasil dari model klasifikasi gambar.
Pembelajaran Mendalam dengan TensorFlow di Google Colab
14 JamPelatihan langsung ini di Indonesia (online atau offline) ditujukan bagi ilmuwan data dan pengembang tingkat menengah yang ingin memahami dan menerapkan teknik deep learning menggunakan lingkungan Google Colab.
Pada akhir pelatihan ini, peserta akan dapat:
- Menyiapkan dan mengelola Google Colab untuk proyek deep learning.
- Memahami dasar-dasar jaringan saraf.
- Melakukan implementasi model deep learning menggunakan TensorFlow.
- Melatih dan mengevaluasi model deep learning.
- Menggunakan fitur lanjutan dari TensorFlow untuk deep learning.
Deep Learning untuk NLP (Natural Language Processing)
28 JamDalam pelatihan online langsung ini di Indonesia, peserta akan belajar menggunakan perpustakaan Python untuk Penganalan Bahasa Alam (NLP) saat mereka membuat aplikasi yang memproses sejumlah gambar dan menghasilkan kapten.
Pada akhir pelatihan ini, peserta akan dapat:
- Mendesain dan mengkodekan DL untuk NLP menggunakan perpustakaan Python.
- Membuat kode Python yang membaca koleksi gambar yang sangat besar dan menghasilkan kata kunci.
- Membuat kode Python yang menghasilkan kapten dari kata kunci yang terdeteksi.
Pembelajaran Mendalam untuk Penglihatan
21 JamAudience
Kursus ini cocok untuk peneliti dan insinyur Deep Learning yang tertarik menggunakan alat-alat (sebagian besar open source) untuk menganalisis gambar komputer
Kursus ini menyediakan contoh-contoh kerja.
Edge AI dengan TensorFlow Lite
14 JamPelatihan ini yang dibimbing oleh instruktur secara langsung (online atau tatap muka) ditujukan untuk pengembang, ilmuwan data, dan praktisi AI tingkat menengah yang ingin memanfaatkan TensorFlow Lite untuk aplikasi Edge AI.
Dengan pelatihan ini, peserta akan dapat:
- Memahami dasar-dasar TensorFlow Lite dan perannya dalam Edge AI.
- Mengembangkan dan mengoptimalkan model AI menggunakan TensorFlow Lite.
- Menyebarkan model TensorFlow Lite pada berbagai perangkat edge.
- Menggunakan alat dan teknik untuk konversi dan optimasi model.
- Mengimplementasikan aplikasi Edge AI praktis menggunakan TensorFlow Lite.
Mempercepat Deep Learning dengan FPGA dan OpenVINO
35 JamPelatihan langsung yang dipimpin instruktur di Indonesia (online atau di tempat) ini ditujukan untuk ilmuwan data yang ingin mempercepat aplikasi pembelajaran mesin waktu nyata dan menerapkannya dalam skala besar.
Pada akhir pelatihan ini, peserta akan dapat:
- Instal toolkit OpenVINO.
- Mempercepat aplikasi visi komputer menggunakan FPGA.
- Jalankan berbagai lapisan CNN pada FPGA.
- Skalakan aplikasi di beberapa node dalam kluster Kubernetes.
Deteksi Penipuan dengan Python dan TensorFlow
14 JamPelatihan langsung yang dipandu oleh instruktur ini, di Indonesia (online atau onsite), ditujukan bagi ilmuwan data yang ingin menggunakan TensorFlow untuk menganalisis data potensi penipuan.
Pada akhir pelatihan ini, peserta akan dapat:
- Membuat model deteksi penipuan di Python dan TensorFlow.
- Membangun regresi linier dan model regresi linier untuk memprediksi penipuan.
- Mengembangkan aplikasi AI end-to-end untuk menganalisis data penipuan.
Pelatihan Deep Learning Tersebar dengan Horovod
7 JamPelatihan langsung yang dipandu instruktur di Indonesia (online atau di tempat) ini ditujukan untuk pengembang atau ilmuwan data yang ingin menggunakan Horovod untuk menjalankan pelatihan pembelajaran mendalam yang terdistribusi dan meningkatkannya untuk dijalankan di beberapa GPU secara paralel.
Pada akhir pelatihan ini, peserta akan dapat:
- Siapkan lingkungan pengembangan yang diperlukan untuk mulai menjalankan pelatihan pembelajaran mendalam.
- Instal dan konfigurasikan Horovod untuk melatih model dengan TensorFlow, Keras, PyTorch, dan Apache MXNet.
- Skala pelatihan pembelajaran mendalam dengan Horovod untuk dijalankan pada beberapa GPU.
Pelatihan Deep Learning dengan Keras
21 JamPelatihan langsung yang dipimpin instruktur di Indonesia (online atau di tempat) ini ditujukan untuk orang-orang teknis yang ingin menerapkan model pembelajaran mendalam pada aplikasi pengenalan gambar.
Pada akhir pelatihan ini, peserta akan dapat:
- Instal dan konfigurasikan Keras.
- Buat prototipe model pembelajaran mendalam dengan cepat.
- Menerapkan jaringan konvolusional.
- Terapkan jaringan berulang.
- Jalankan model pembelajaran mendalam pada CPU dan GPU.
Pelatihan Dasar Pengenalan Stable Diffusion untuk Pengenalan Gambar Berdasarkan Tekst
21 JamPelatihan langsung yang dipandu instruktur ini (online atau di tempat) ditujukan untuk ilmuwan data, insinyur pembelajaran mesin, dan peneliti visi komputer yang ingin memanfaatkan Stable Diffusion untuk menghasilkan gambar berkualitas tinggi untuk berbagai kasus penggunaan.
Pada akhir pelatihan ini, peserta akan dapat:
- Memahami prinsip Stable Diffusion dan cara kerjanya untuk pembuatan gambar.
- Membangun dan melatih model Stable Diffusion untuk tugas pembuatan gambar.
- Terapkan Stable Diffusion ke berbagai skenario pembuatan gambar, seperti inpainting, outpainting, dan penerjemahan gambar ke gambar.
- Optimalkan kinerja dan stabilitas model Stable Diffusion.
TensorFlow Lite untuk Mikrokontroler
21 JamInstruksi langsung ini di Indonesia (daring atau di tempat) ditujukan kepada insinyur yang ingin menulis, memuat dan menjalankan model pembelajaran mesin pada perangkat embedded sangat kecil.
Di akhir pelatihan ini, peserta akan dapat:
- Instal TensorFlow Lite.
- Memuat model pembelajaran mesin ke dalam perangkat embedded untuk memungkinkannya mendeteksi suara, mengklasifikasikan gambar, dll.
- Menambahkan AI ke perangkat keras tanpa bergantung pada koneksi jaringan.