Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Lanskap Ancaman dalam Dunia AI
- Mengapa keamanan AI unik: sifat non-deterministik, proses pengambilan keputusan yang sulit dipahami, serta perintah sebagai titik serangan utama
- Klasifikasi jenis serangan: pada fase pelatihan, penggunaan, maupun rantai pasok
- Mengenal profil penyerang AI: siapa saja yang berpotensi menyerang dan motifnya
OWASP Top 10 untuk Aplikasi LLM
- Penyuntikan perintah: mekanisme serangan langsung maupun tidak langsung terhadap LLM
- Pengelolaan output yang tidak aman serta risiko permintaan lintas plugin
- Kontaminasi data pelatihan dan kerentanan rantai pasok AI
- Risiko penolakan layanan oleh model, kebocoran informasi sensitif, serta wewenang yang berlebihan bagi sistem
- Latihan praktik: bagaimana memanfaatkan setiap kategori OWASP untuk menguji aplikasi tertentu
Red Teaming pada Penyuntikan Perintah dan Jailbreak
- Penggolongan teknik penyuntikan: langsung, tidak langsung, melibatkan beberapa sesi percakapan, maupun berbasis multimodal
- Alat otomatisasi red-teaming seperti Giskard, Garak, serta alat fuzzing buatan sendiri
- Pengklasifikasian upaya jailbreak beserta metode evaluasi keamanannya
- Cara membangun kerangka kerja red-teaming guna pengujian keamanan LLM secara berkelanjutan
Serangan dan Pertahanan pada Level Model AI
- Ekstraksi model: mengambil bobot atau fungsionalitas model lewat permintaan API
- Inferensi keanggotaan: cara mengetahui apakah suatu data pernah digunakan dalam pelatihan
- Contoh adversarial: gangguan kecil pada input yang mampu mengganggu kerja classifier atau embedding AI
- Kontaminasi data pelatihan: pengaruh buruk terhadap stabilitas model karena data yang rusak
Pengendalian Keamanan Input dan Output
- Sanitasi input: pendekatan melebihi standar pertahanan web konvensional
- Penyaringan output: mencegah konten berbahaya, kebocoran PII, serta kode yang tidak aman
- Penerapan guardrails sebagai komponen infrastruktur keamanan: NeMo, Guardrails AI, maupun aturan khusus organisasi
- Memastikan struktur output sesuai standar demi pengamanan sistem
Keamanan Rantai Pasok AI
- Verifikasi asal-usul model: memastikan keaslian dan integritasnya
- Pemindaian dependensi ML untuk framework maupun format model tertentu
- Pelaksanaan pelayanan model yang aman: penggunaan sandbox, isolasi jaringan, serta kontrol akses ketat
- Inspeksi mendalam terhadap model hasil fine-tuning atau dari komunitas terkait untuk mengetahui adanya malware
Penerapan Keamanan Operasional pada Sistem AI
- Kontrol akses terhadap endpoint model, basis data vektor, maupun alat pendukung AI lainnya
- Pencatatan log secara menyeluruh pada setiap interaksi dan keputusan yang diambil model
- Penanganan insiden spesifik pada sistem AI: contohnya saat model itu sendiri terkompromi
- Pengujian keamanan berkala melalui mekanisme CI/CD untuk memastikan kualitas seluruh pipeline ML
Membangun Program Keamanan AI yang Efektif
- Pengembangan model kematangan keamanan AI serta rencana aksi konkretnya
- Integrasi program keamanan AI dengan sistem AppSec dan keamanan cloud yang sudah ada
- Rancang bangun tata kelola organisasi serta regulasi baru seputar penggunaan AI
- Pembuatan dan pemutakhiran dokumentasi panduan keamanan AI secara terus-menerus
Persyaratan
- Pengalaman dalam mendeploy model ML atau aplikasi berbasis LLM di lingkungan produksi.
- Pemahaman mengenai konsep keamanan, seperti autentikasi, otorisasi, dan pemodelan ancaman.
- Kemampuan programming menggunakan Python guna melakukan uji coba adversarial.
Target Peserta
- Insinyur keamanan yang ingin mengembangkan kompetensi dalam bidang ancaman AI/ML.
- Insinyur ML yang bertanggung jawab memastikan keamanan dan kestabilan modelnya.
- Anggota tim red team yang ingin meluaskan cakupan pengujian mereka ke dalam sistem AI.
14 Jam
