Hubungi Kami

Kerangka Materi

Ringkasan Arsitektur LLM dan Permukaan Serangan

  • Cara LLM dibangun, di-deploy, dan diakses melalui API
  • Komponen kunci dalam tumpukan aplikasi LLM (misalnya, prompt, agen, memori, API)
  • Dimana dan bagaimana isu keamanan muncul dalam penggunaan dunia nyata

Serangan Injeksi Prompt dan Jailbreak

  • Apa itu injeksi prompt dan mengapa hal tersebut berbahaya
  • Skenario injeksi prompt langsung dan tidak langsung
  • Teknik jailbreak untuk melewati filter keamanan
  • Strategi deteksi dan mitigasi

Risiko Kebocoran Data dan Privasi

  • Terbongkarnya data secara tidak sengaja melalui respons
  • Kebocoran PII dan penyalahgunaan memori model
  • Merancang prompt dan generasi yang diperkaya retrieval (RAG) yang sadar privasi

Filtering dan Perlindungan Output LLM

  • Menggunakan Guardrails AI untuk filter konten dan validasi
  • Mendefinisikan skema dan batasan keluaran
  • Memantau dan mencatat keluaran yang tidak aman

Pendekatan Manusia dalam Siklus dan Alur Kerja

  • Dimana dan kapan memperkenalkan pengawasan manusia
  • Antrian persetujuan, ambang batas skor, penanganan fallback
  • Kalibrasi kepercayaan dan peran penjelasan

Pola Desain Aplikasi LLM yang Aman

  • Hak akses minimal dan sandboxing untuk panggilan API dan agen
  • Pembatasan laju, pengurangan kecepatan, dan deteksi penyalahgunaan
  • Rantai yang kuat dengan LangChain dan isolasi prompt

Kepatuhan, Logging, dan Tata Kelola

  • Memastikan dapat diauditnya keluaran LLM
  • Menjaga jejak dan kontrol prompt/versi
  • Penyelarasan dengan kebijakan keamanan internal dan kebutuhan regulasi

Ringkasan dan Langkah Selanjutnya

Persyaratan

  • Pemahaman tentang model bahasa besar dan antarmuka berbasis prompt
  • Pengalaman membangun aplikasi LLM menggunakan Python
  • Kepahaman tentang integrasi API dan deployment berbasis cloud

Audience

  • Pengembang AI
  • Arsitek aplikasi dan solusi
  • Manajer produk teknis yang bekerja dengan alat LLM
 14 Jam

Jumlah Peserta


Harga per Peserta

Kursus Mendatang

Kategori Terkait