Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Durasi 21 jam
Kerangka Materi
Fondasi: Model Ancaman untuk Agentic AI
- Jenis ancaman agentic: penyalahgunaan, eskalasi, kebocoran data, dan risiko rantai pasokan
- Profil adversary dan kemampuan penyerang yang spesifik untuk agen otonom
- Pemetaan aset, batas kepercayaan, dan titik kontrol kritis untuk agen
Tata Kelola, Kebijakan, dan Manajemen Risiko
- Kerangka kerja tata kelola untuk sistem agentic (peran, tanggung jawab, gerbang persetujuan)
- Desain kebijakan: penggunaan yang dapat diterima, aturan eskalasi, penanganan data, dan kemampuan audit
- Pertimbangan kepatuhan dan pengumpulan bukti untuk audit
Identitas & Autentikasi Non-Manusia untuk Agen
- Merancang identitas untuk agen: service accounts, JWT, dan kredensial jangka pendek
- Pola akses hak istimewa terkecil dan kredensial just-in-time
- Siklus hidup identitas, rotasi, delegasi, dan strategi pencabutan
Kontrol Akses, Rahasia, dan Perlindungan Data
- Model kontrol akses granular dan pola berbasis kemampuan untuk agen
- Manajemen rahasia, enkripsi saat transit dan saat istirahat, serta minimisasi data
- Melindungi sumber pengetahuan sensitif dan PII dari akses agen yang tidak sah
Observabilitas, Audit, dan Tanggap Insiden
- Merancang telemetri untuk perilaku agen: pelacakan niat, log perintah, dan provenance
- Integrasi SIEM, ambang peringatan, dan kesiapan forensik
- Runbook dan playbook untuk insiden terkait agen dan penahanannya
Red-Teaming Sistem Agentic
- Perencanaan latihan red-team: cakupan, aturan keterlibatan, dan failover yang aman
- Teknik adversarial: injeksi prompt, penyalahgunaan alat, manipulasi chain-of-thought, dan penyalahgunaan API
- Melakukan serangan terkendali dan mengukur paparan serta dampaknya
Hardening dan Mitigasi
- Kontrol rekayasa: pembatasan respons, gating kemampuan, dan sandboxing
- Kontrol kebijakan dan orkestrasi: alur persetujuan, human-in-the-loop, dan hook tata kelola
- Pertahanan level model dan prompt: validasi input, kanonisasi, dan filter output
Operasionalisasi Deployment Agen yang Aman
- Pola deployment: staging, canary, dan rollout progresif untuk agen
- Kontrol perubahan, pipeline pengujian, dan pemeriksaan keamanan pra-deployment
- Tata kelola lintas fungsi: playbook untuk keamanan, hukum, produk, dan operasi
Capstone: Latihan Red-Team / Blue-Team
- Menjalankan serangan red-team yang disimulasikan terhadap lingkungan agen bersandbox
- Bertahan, mendeteksi, dan memperbaiki sebagai blue team menggunakan kontrol dan telemetri
- Menyajikan temuan, rencana perbaikan, dan pembaruan kebijakan
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Dasar yang kuat dalam rekayasa keamanan, administrasi sistem, atau operasi cloud
- Kenalan dengan konsep AI/ML dan perilaku large language model (LLM)
- Pengalaman dengan manajemen identitas dan akses (IAM) serta desain sistem yang aman
Audience
- Rekayasa keamanan dan red-teamer
- Rekayasa operasi AI dan platform
- Petugas kepatuhan dan manajer risiko
- Pemimpin teknik yang bertanggung jawab atas deployment agen
Testimoni (1)
inventarisasi dan identifikasi berbagai eksposur risiko dalam AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Kursus - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Diterjemahkan Mesin
