Hubungi Kami

Kerangka Materi

Dasar-Dasar: Model Ancaman terhadap AI Agen

  • Jenis ancaman pada sistem agen: penyalahgunaan, eskalasi, kebocoran data, serta risiko rantai pasokan
  • Profil penyerang dan kemampuan khusus dalam mengeksploitasi agen otomatis
  • Pemetaan aset, batas kepercayaan, serta titik kontrol kritis pada sistem agen

Tata Kelola, Kebijakan, dan Manajemen Risiko

  • Kerangka tata kelola untuk sistem AI agen: peran, tanggung jawab, serta mekanisme persetujuan
  • Perancangan kebijakan: batasan penggunaan, aturan eskalasi, perlakuan data, dan aspek auditabilitas
  • Pertimbangan kepatuhan serta pengumpulan bukti untuk keperluan audit

Identitas Non-Manusia & Autentikasi bagi Agen

  • Merancang identitas agen: akun layanan, token JWT, serta kredensial berdurasi pendek
  • Pola akses minimal sesuai prinsip least-privilege serta penerapan otentikasi just-in-time
  • Strategi pengelolaan siklus hidup identitas: rotasi, delegasi, hingga pencabutan kredensial

Kontrol Akses, Manajemen Rahasia, dan Perlindungan Data

  • Model kontrol akses granular serta pendekatan berbasis kemampuan bagi agen
  • Pengelolaan rahasia sistem, enkripsi data saat transmisi maupun penyimpanan, serta prinsip minimalisasi data
  • Upaya proteksi sumber daya pengetahuan sensitif dan informasi pribadi terhadap akses tidak sah oleh agen

Observabilitas, Audit, serta Respon Insiden

  • Perancangan sistem telemetri untuk memantau perilaku agen: pelacakan niat, pencatatan perintah, serta jejak asal-usul data
  • Integrasi dengan SIEM, penetapan ambang batas peringatan dini, serta persiapan analisis forensik
  • Panduan operasional dan prosedur penanganan insiden terkait aktivitas agen beserta mekanisme pembatasan risiko

Red-Teaming terhadap Sistem AI Agen

  • Perencanaan simulasi serangan red-team: ruang lingkup, aturan interaksi, serta mekanisme keamanan cadangan
  • Teknik serangan standar: penyuntikan prompt, penyalahgunaan alat pendukung, manipulasi urutan penalaran agen, serta eksploitasi API
  • Pelaksanaan serangan terkontrol untuk mengukur tingkat kerentanan dan potensi dampaknya

Penguatan Keamanan & Mitigasi Risiko

  • Kontrol teknis: pembatasan respons agen, pengendalian akses berbasis kemampuan, serta penerapan isolasi lingkungan
  • Mekanisme kebijakan dan orkestrasi: alur persetujuan, konsep human-in-the-loop, serta titik intervensi administratif
  • Pertahanan pada tingkat model dan sintaksis prompt: validasi input, pemrosesan data standar, serta penyaringan output agen

Mengoperasikan Penerapan AI Agen yang Aman

  • Pola penerapan: pengujian tahap awal, implementasi canary, serta pendekatan peluncuran bertahap untuk agen
  • Proses kontrol perubahan sistem, pipeline uji coba, dan mekanisme pengecekan keamanan sebelum penerapan
  • Tata kelola lintas disiplin: panduan operasional dari tim keamanan, hukum, pengembangan produk, serta infrastruktur IT

Proyek Akhir: Simulasi Red-Team/Blue-Team

  • Melakukan serangan red-team terkendali terhadap lingkungan agen simulasi yang aman dan terisolasi
  • Sebagai tim blue-team, mempertahankan sistem, mengidentifikasi ancaman, serta menerapkan tindakan mitigasi dengan bantuan telemetri
  • Memaparkan temuan, rencana perbaikan, dan rekomendasi penyempurnaan kebijakan organisasi

Penutup & Langkah Selanjutnya

Persyaratan

  • Dasar pemahaman yang kuat dalam rekayasa keamanan, administrasi sistem, atau operasi cloud
  • Kenalan dengan konsep AI/ML serta perilaku model bahasa besar (LLM)
  • Pengalaman dalam pengelolaan identitas & akses (IAM) serta perancangan sistem yang aman

Target Peserta

  • Insinyur keamanan dan praktisi red-teaming
  • Insinyur operasional AI serta insinyur platform
  • Petugas kepatuhan dan manajer risiko
  • Pemimpin tim rekayasa yang bertanggung jawab atas penerapan sistem agen
 21 Jam

Jumlah Peserta


Harga per Peserta

Kursus Mendatang

Kategori Terkait