Kursus Pelatihan Deep Learning dengan TensorFlow 2

Pengantar

• Pengantar TensorFlow dan deep learning
• Studi kasus dan aplikasi TensorFlow
• Ekosistem dan tooling TensorFlow
• Alur kerja machine learning dan deep learning
• Ringkasan tujuan kursus dan latihan praktis

TensorFlow 2.x vs Versi Sebelumnya — Apa yang Baru

• Perbedaan utama antara TensorFlow 1.x dan 2.x
• Eksekusi eager
• API yang disederhanakan dan kegunaan yang lebih baik
• Perubahan dalam konstruksi model dan pelatihan
• Pengenalan Keras sebagai API tingkat tinggi
• Pertimbangan migrasi untuk aplikasi TensorFlow yang ada
• Praktik terbaik TensorFlow 2.x

Menyiapkan TensorFlow 2.x

• Memasang TensorFlow
• Mengonfigurasi lingkungan Python
• Memverifikasi instalasi TensorFlow
• Memasang dan mengelola dependensi yang diperlukan
• Mengonfigurasi lingkungan CPU dan GPU
• Menggunakan TensorFlow dengan notebook Jupyter
• Perintah dan operasi dasar TensorFlow
• Memecahkan masalah instalasi dan konfigurasi

Ringkasan Fitur dan Arsitektur TensorFlow 2.x

• Arsitektur TensorFlow dan komponen inti
• Tensor dan operasi tensor
• Varibel dan konstanta
• Graph komputasi dan eksekusi eager
• Diferensiasi otomatis
• API dan modul TensorFlow
• Integrasi Keras
• Pipeline data dengan tf.data
• Serialisasi model dan TensorFlow SavedModel
• Ekosistem TensorFlow dan alur kerja pengembangan

Cara Kerja Jaringan Saraf

• Fundamental jaringan saraf buatan
• Neuron, lapisan, dan arsitektur jaringan
• Fungsi aktivasi
• Propagasi maju (forward propagation)
• Fungsi kerugian (loss functions)
• Backpropagation
• Gradient descent dan optimasi
• Laju pembelajaran dan strategi optimasi
• Overfitting dan underfitting
• Teknik regularisasi
• Himpunan data pelatihan, validasi, dan uji

Menggunakan TensorFlow 2.x untuk Membuat Model Deep Learning

• Membuat tensor dan variabel
• Membangun jaringan saraf dengan Keras
• API model sequential dan functional
• Menentukan model dan lapisan kustom
• Mengonfigurasi optimizer
• Memilih fungsi kerugian yang tepat
• Melatih model dengan fit()
• Loop pelatihan kustom
• Callback dan pemantauan pelatihan
• Manajemen checkpoint model

Menganalisis Data

• Memahami himpunan data untuk machine learning
• Menjelajahi data terstruktur dan tidak terstruktur
• Visualisasi data
• Mengidentifikasi pola dan anomali
• Menangani data yang hilang dan tidak konsisten
• Memecah data menjadi himpunan pelatihan, validasi, dan uji
• Memilih fitur yang relevan
• Menyiapkan himpunan data untuk model TensorFlow

Prapemrosesan Data

• Normalisasi dan standardisasi data
• Pengkodean data kategorikal
• Menangani nilai yang hilang
• Penykalaan fitur
• Prapemrosesan gambar
• Prapemrosesan teks
• Peningkatan data (data augmentation)
• Membangun pipeline input yang efisien
• Menggunakan tf.data
• Batching, shuffling, caching, dan prefetching
• Menyiapkan data untuk pelatihan model

Membangun Model

• Memilih arsitektur jaringan saraf yang tepat
• Menentukan input dan output model
• Membuat jaringan saraf.dense
• Memilih fungsi aktivasi
• Mengonfigurasi model untuk pelatihan
• Memilih optimizer dan fungsi kerugian
• Melatih dan memvalidasi model
• Memantau metrik pelatihan
• Memperbaiki kinerja model
• Mencegah overfitting
• Mengimplementasikan regularisasi dan dropout

Mengimplementasikan Klasifikator Gambar State-of-the-Art

• Fundamental klasifikasi gambar
• Menyiapkan himpunan data gambar
• Normalisasi dan peningkatan data gambar
• Jaringan saraf konvolusional
• Lapisan konvolusi dan pooling
• Merancang arsitektur klasifikasi gambar
• Transfer learning
• Menggunakan model pralatih (pretrained)
• Fine-tuning jaringan pralatih
• Membangun klasifikator gambar canggih
• Mengevaluasi kinerja klasifikasi

Melatih Model

• Mengonfigurasi parameter pelatihan
• Ukuran batch dan epoch
• Pemilihan optimizer
• Jadwal laju pembelajaran (learning-rate scheduling)
• Callback pelatihan
• Penghentian awal (early stopping)
• Checkpoint model
• Memantau kemajuan pelatihan
• Mendeteksi overfitting
• Memperbaiki kinerja pelatihan
• Pertimbangan pelatihan terdistribusi

Melatih di GPU vs TPU

• Arsitektur CPU, GPU, dan TPU
• Keuntungan akselerasi perangkat keras
• Mengonfigurasi TensorFlow untuk pelatihan GPU
• Memahami pelatihan berbasis TPU
• Memilih perangkat keras untuk beban kerja yang berbeda
• Memindahkan komputasi antar perangkat
• Manajemen memori dan sumber daya komputasi
• Membandingkan kinerja pelatihan
• Strategi pelatihan terdistribusi dan terakselerasi

Mengevaluasi Model

• Memilih metrik evaluasi yang tepat
• Akurasi, presisi, recall, dan skor F1
• Metrik evaluasi regresi
• Matriks kebingungan (confusion matrices)
• Strategi validasi
• Mengevaluasi model klasifikasi
• Mengevaluasi generalisasi model
• Mengidentifikasi kelemahan model
• Membandingkan konfigurasi model yang berbeda

Membuat Prediksi

• Menggunakan model terlatih untuk inferensi
• Menyiapkan data input baru
• Menjalankan prediksi batch dan individual
• Menafsirkan output model
• Probabilitas klasifikasi
• Prediksi regresi
• Membangun alur kerja inferensi
• Menangani data yang belum pernah dilihat
• Manajemen pipeline prediksi

Mengevaluasi Prediksi

• Menganalisis kualitas prediksi
• Membandingkan prediksi dengan hasil yang diharapkan
• Mengidentifikasi positif palsu dan negatif palsu
• Analisis kesalahan
• Mengevaluasi kepercayaan model
• Visualisasi hasil prediksi
• Mendeteksi bias data dan prediksi
• Memperbaiki kinerja model berdasarkan analisis prediksi

Debugging Model

• Mengidentifikasi masalah pelatihan umum
• Mendiagnosis prediksi yang salah
• Debugging pipeline data
• Menyelidiki perilaku kerugian dan metrik
• Mendeteksi gradien yang meledak dan menghilang
• Mendiagnosis overfitting dan underfitting
• Meriksa lapisan dan output model
• Menggunakan alat debugging dan profiling TensorFlow
• Memperbaiki stabilitas dan kinerja model

Menyimpan Model

• Menyimpan model terlatih
• Format TensorFlow SavedModel
• Menyimpan dan memulihkan bobot model
• Menyimpan arsitektur dan konfigurasi model
• Memuat model untuk inferensi
• Versi model
• Eksport model untuk implementasi
• Manajemen artefak model
• Menyiapkan model untuk lingkungan produksi

Implementasi Model ke Cloud

• Pengenalan implementasi model berbasis cloud
• Menyiapkan model TensorFlow untuk produksi
• Melayani model melalui API
• Konsep model serving
• Men-container aplikasi TensorFlow
• Inferensi berbasis cloud
• Skala beban kerja model-serving
• Memantau model yang diimplementasikan
• Manajemen versi model
• Pertimbangan implementasi produksi

Implementasi Model ke Perangkat Mobile

• Tantangan machine learning mobile
• TensorFlow Lite
• Mengonversi model TensorFlow untuk implementasi mobile
• Optimasi model dan pengurangan ukuran
• Kuantisasi
• Menjalankan inferensi di perangkat mobile
• Manajemen sumber daya perangkat mobile
• Integrasi model ke aplikasi mobile
• Uji kinerja inferensi mobile

Implementasi Model ke Sistem Tertanam (IoT)

• Machine learning di perangkat tertanam
• TensorFlow Lite untuk aplikasi tertanam
• Keterbatasan sumber daya dan optimasi
• Mengurangi ukuran model dan persyaratan komputasi
• Inferensi edge
• Pemrosesan data sensor dan real-time
• Menjalankan prediksi secara lokal
• Pertimbangan daya dan memori
• Integrasi model TensorFlow ke alur kerja IoT
• Uji dan pemantauan implementasi edge

Integrasi Model dengan Bahasa yang Berbeda

• Interoperabilitas model TensorFlow
• Melayani model melalui API
• Menggunakan model TensorFlow dari lingkungan pemrograman yang berbeda
• Integrasi model berbasis Python
• Integrasi model ke aplikasi web
• Inferensi model melalui layanan berbasis REST
• Integrasi TensorFlow ke aplikasi yang ada
• Pertukaran data dan serialisasi
• Pertimbangan integrasi produksi

Pemecahan Masalah (Troubleshooting)

• Mendiagnosis masalah instalasi TensorFlow
• Pemecahan masalah kesalahan pembangunan model
• Debugging masalah prapemrosesan data
• Menyelesaikan kegagalan pelatihan
• Menyelidiki masalah konfigurasi GPU dan TPU
• Mendiagnosis masalah memori dan kinerja
• Pemecahan masalah pemuatan dan penyimpanan model
• Debugging masalah implementasi
• Latihan pemecahan masalah praktis

Ringkasan dan Penutup

• Ulasan konsep TensorFlow 2.x
• Ulasan alur kerja jaringan saraf dan deep learning
• Ulasan persiapan data dan pengembangan model
• Ulasan klasifikasi gambar
• Ulasan teknik pelatihan dan evaluasi
• Ulasan debugging dan optimasi model
• Ulasan implementasi cloud, mobile, dan IoT
• Praktik terbaik untuk pengembangan TensorFlow
• Latihan praktis akhir
• Pertanyaan dan diskusi