Hubungi Kami

Kerangka Materi

Gambaran Umum Arsitektur LLM dan Risiko Keamanannya

  • Cara pembuatan, penerapan, serta pengaksesan model LLM melalui API
  • Komponen utama dalam tumpukan teknis aplikasi LLM (misalnya prompt, agen, memori sistem, dan API)
  • Lokasi munculnya masalah keamanan dalam penggunaan nyata

Serangan Prompt Injection dan Metode Jailbreaking

  • Apa itu prompt injection dan mengapa sangat berbahaya bagi sistem
  • Contoh skenario serangan prompt injection langsung maupun tidak langsung<\/li>
  • Teknik jailbreaking untuk melewati filter keamanan sistem
  • Cara mendeteksi dan mencegah serangan semacam ini

Kebocoran Data serta Risiko Privasi yang Terkait

  • Peluang terjadinya kebocoran informasi tanpa disengaja melalui hasil respons sistem
  • Ancaman kebocoran data pribadi dan penyalahgunaan memori model
  • Cara merancang prompt yang menjaga privasi serta menerapkan teknik Retrieval-Augmented Generation (RAG)

Penyaringan dan Pengendalian Hasil Keluaran LLM

  • Pemanfaatan Guardrails AI dalam proses penyaringan serta validasi konten keluaran
  • Cara menetapkan skema serta batasan yang sesuai untuk hasil output
  • Metode pemantauan dan pencatatan secara cermat terhadap setiap hasil tidak aman<\/li>

Pendekatan Pengawasan Manusia dan Alur Kerja Aplikasi

  • Kapan serta di mana sebaiknya memasukkan mekanisme pengawasan manusia dalam alur kerja
  • Implementasi antrian persetujuan, kriteria penilaian sistem, hingga strategi penanganan kesalahan proses
  • Pentingnya kepercayaan terhadap hasil sistem dan pemahaman tentang transparansi logika model<\/li>

Pola Desain Aplikasi LLM yang Aman

  • Aplikasi prinsip least privilege serta penggunaan sandboxing pada setiap permintaan API maupun aktivitas agen sistem
  • Teknik pembatasan jumlah akses, pengecekan anomali, dan deteksi kejahatan siber terhadap penggunaan sistem secara berlebihan
  • Cara membangun alur proses yang tangguh menggunakan LangChain serta mengisolasi setiap komponen prompt

Kepatuhan, Pencatatan Aktivitas Sistem, dan Manajemen Keamanan

  • Cara menjamin kemampuan audit terhadap seluruh aktivitas yang dilakukan oleh sistem LLM
  • Strategi mempertahankan jejak perubahan aktivitas sistem serta kontrol versi prompt
  • Penerapan standar kebijakan internal organisasi sekaligus ketentuan regulasi eksternal secara tepat guna

Kesimpulan dan Langkah Selanjutnya

Persyaratan

  • Pemahaman mengenai model bahasa besar serta antarmuka interaksi berbasis prompt
  • Pengalaman mengembangkan aplikasi LLM menggunakan Python
  • Kemampuan dalam integrasi API dan pengelolaan sistem di lingkungan cloud

Target Peserta

  • Pengembang AI
  • Arsitek aplikasi dan solusi teknis
  • Manajer produk teknis yang bekerja dengan alat berbasis LLM
 14 Jam

Jumlah Peserta


Harga per Peserta

Kursus Mendatang

Kategori Terkait