Hubungi Kami

Kerangka Materi

Pengenalan LLM Open-Source

  • Apa itu model open-weight dan mengapa model tersebut penting
  • Ikhtisar LLaMA, Mistral, Qwen, dan model komunitas lainnya
  • Kasus penggunaan untuk deployment privat, on-premise, atau yang aman

Persiapan Lingkungan dan Alat

  • Menginstal dan mengkonfigurasi library Transformers, Datasets, dan PEFT
  • Memilih perangkat keras yang tepat untuk fine-tuning
  • Memuat model pra-terlatih dari Hugging Face atau repositori lainnya

Persiapan dan Pra-pemrosesan Data

  • Format dataset (tuning instruksi, data percakapan, teks murni)
  • Tokenisasi dan manajemen urutan
  • Membuat dataset kustom dan data loaders

Teknik Fine-Tuning

  • Fine-tuning penuh standar vs. metode efisien parameter
  • Menerapkan LoRA dan QLoRA untuk fine-tuning yang efisien
  • Menggunakan Trainer API untuk eksperimen cepat

Evaluasi dan Optimasi Model

  • Mengases model yang telah di-fine-tuning dengan metrik generasi dan akurasi
  • Mengelola overfitting, generalisasi, dan himpunan validasi
  • Tips penalaan kinerja dan logging

Deployment dan Penggunaan Privat

  • Menyimpan dan memuat model untuk inferensi
  • Mendeploy model yang telah di-fine-tuning di lingkungan perusahaan yang aman
  • Strategi deployment on-premise vs. cloud

Studi Kasus dan Penggunaan

  • Contoh penggunaan LLaMA, Mistral, dan Qwen oleh perusahaan
  • Menangani fine-tuning multibahasa dan domain-spesifik
  • Diskusi: Pertukaran antara model terbuka dan tertutup

Ringkasan dan Langkah Selanjutnya

Persyaratan

  • Memahami model bahasa besar (LLM) dan arsitekturnya
  • Pengalaman dengan Python dan PyTorch
  • Keakraban dasar dengan ekosistem Hugging Face

Target Peserta

  • Pra-praktisi ML
  • Pengembang AI
 14 Jam

Jumlah Peserta


Harga per Peserta

Kursus Mendatang

Kategori Terkait