Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Dasar-Dasar: Model Ancaman terhadap AI Agen
- Jenis ancaman pada sistem agen: penyalahgunaan, eskalasi, kebocoran data, serta risiko rantai pasokan
- Profil penyerang dan kemampuan khusus dalam mengeksploitasi agen otomatis
- Pemetaan aset, batas kepercayaan, serta titik kontrol kritis pada sistem agen
Tata Kelola, Kebijakan, dan Manajemen Risiko
- Kerangka tata kelola untuk sistem AI agen: peran, tanggung jawab, serta mekanisme persetujuan
- Perancangan kebijakan: batasan penggunaan, aturan eskalasi, perlakuan data, dan aspek auditabilitas
- Pertimbangan kepatuhan serta pengumpulan bukti untuk keperluan audit
Identitas Non-Manusia & Autentikasi bagi Agen
- Merancang identitas agen: akun layanan, token JWT, serta kredensial berdurasi pendek
- Pola akses minimal sesuai prinsip least-privilege serta penerapan otentikasi just-in-time
- Strategi pengelolaan siklus hidup identitas: rotasi, delegasi, hingga pencabutan kredensial
Kontrol Akses, Manajemen Rahasia, dan Perlindungan Data
- Model kontrol akses granular serta pendekatan berbasis kemampuan bagi agen
- Pengelolaan rahasia sistem, enkripsi data saat transmisi maupun penyimpanan, serta prinsip minimalisasi data
- Upaya proteksi sumber daya pengetahuan sensitif dan informasi pribadi terhadap akses tidak sah oleh agen
Observabilitas, Audit, serta Respon Insiden
- Perancangan sistem telemetri untuk memantau perilaku agen: pelacakan niat, pencatatan perintah, serta jejak asal-usul data
- Integrasi dengan SIEM, penetapan ambang batas peringatan dini, serta persiapan analisis forensik
- Panduan operasional dan prosedur penanganan insiden terkait aktivitas agen beserta mekanisme pembatasan risiko
Red-Teaming terhadap Sistem AI Agen
- Perencanaan simulasi serangan red-team: ruang lingkup, aturan interaksi, serta mekanisme keamanan cadangan
- Teknik serangan standar: penyuntikan prompt, penyalahgunaan alat pendukung, manipulasi urutan penalaran agen, serta eksploitasi API
- Pelaksanaan serangan terkontrol untuk mengukur tingkat kerentanan dan potensi dampaknya
Penguatan Keamanan & Mitigasi Risiko
- Kontrol teknis: pembatasan respons agen, pengendalian akses berbasis kemampuan, serta penerapan isolasi lingkungan
- Mekanisme kebijakan dan orkestrasi: alur persetujuan, konsep human-in-the-loop, serta titik intervensi administratif
- Pertahanan pada tingkat model dan sintaksis prompt: validasi input, pemrosesan data standar, serta penyaringan output agen
Mengoperasikan Penerapan AI Agen yang Aman
- Pola penerapan: pengujian tahap awal, implementasi canary, serta pendekatan peluncuran bertahap untuk agen
- Proses kontrol perubahan sistem, pipeline uji coba, dan mekanisme pengecekan keamanan sebelum penerapan
- Tata kelola lintas disiplin: panduan operasional dari tim keamanan, hukum, pengembangan produk, serta infrastruktur IT
Proyek Akhir: Simulasi Red-Team/Blue-Team
- Melakukan serangan red-team terkendali terhadap lingkungan agen simulasi yang aman dan terisolasi
- Sebagai tim blue-team, mempertahankan sistem, mengidentifikasi ancaman, serta menerapkan tindakan mitigasi dengan bantuan telemetri
- Memaparkan temuan, rencana perbaikan, dan rekomendasi penyempurnaan kebijakan organisasi
Penutup & Langkah Selanjutnya
Persyaratan
- Dasar pemahaman yang kuat dalam rekayasa keamanan, administrasi sistem, atau operasi cloud
- Kenalan dengan konsep AI/ML serta perilaku model bahasa besar (LLM)
- Pengalaman dalam pengelolaan identitas & akses (IAM) serta perancangan sistem yang aman
Target Peserta
- Insinyur keamanan dan praktisi red-teaming
- Insinyur operasional AI serta insinyur platform
- Petugas kepatuhan dan manajer risiko
- Pemimpin tim rekayasa yang bertanggung jawab atas penerapan sistem agen
21 Jam