AI Governance, Compliance, and Security for Enterprise Leaders Training Course

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk pengembang AI, arsitek, dan manajer produk tingkat menengah hingga lanjutan yang ingin mengidentifikasi dan memitigasi risiko terkait aplikasi berbasis LLM, termasuk injeksi prompt, kebocoran data, dan output tidak difilter, sambil mengintegrasikan kontrol keamanan seperti validasi input, pengawasan manusia dalam loop, dan batasan output.

Setelah selesai pelatihan ini, peserta akan dapat:

• Mengerti kerentanan inti dari sistem berbasis LLM.
• Menerapkan prinsip desain aman pada arsitektur aplikasi LLM.
• Menggunakan alat seperti Guardrails AI dan LangChain untuk validasi, penyaringan, dan keamanan.
• Mengintegrasikan teknik seperti sandboxing, red teaming, dan tinjauan manusia dalam loop ke pipa produksi kelas tinggi.

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk profesional IT keamanan, risiko, dan keterpatuan tingkat pemula yang ingin memahami konsep dasar keamanan AI, vektor ancaman, dan kerangka global seperti NIST AI RMF dan ISO/IEC 42001.

Setelah mengikuti pelatihan ini, peserta akan dapat:

• Mengerti risiko keamanan unik yang diperkenalkan oleh sistem AI.
• Mengidentifikasi vektor ancaman seperti serangan musuh, pencemaran data, dan inversi model.
• Menerapkan model pemerintahan dasar seperti Kerangka NIST AI Risk Management.
• Menyesuaikan penggunaan AI dengan standar yang muncul, pedoman keterpatuan, dan prinsip etika.

Pendahuluan tentang AI Security dan Risk Management

Dasar-dasar AI dan Keamanan

• Apa yang membuat sistem AI unik dari perspektif keamanan
• Ulasan siklus hidup AI: data, pelatihan, inferensi, dan implementasi
• Taksonomi dasar risiko AI: teknis, etika, hukum, dan organisasional

Vektor Ancaman Spesifik AI

• Contoh musuh dan manipulasi model
• Inversi model dan risiko kebocoran data
• Pencemaran data selama fase pelatihan
• Risiko dalam AI generatif (misalnya, penyalahgunaan LLM, injeksi prompt)

Kerangka Kerja Keamanan Risk Management

• Kerangka Kerja NIST AI Risk Management (NIST AI RMF)
• ISO/IEC 42001 dan standar spesifik AI lainnya
• Mengaitkan risiko AI dengan kerangka GRC perusahaan yang ada

Pemerintahan AI Go dan Prinsip Keterpatuan

• Akuntabilitas dan auditabilitas AI
• Transparansi, penjelasan, dan keadilan sebagai sifat yang relevan dengan keamanan
• Sikap diskriminatif, diskriminasi, dan kerugian turunan

Kesiapan Perusahaan dan Kebijakan AI Security

• Menentukan peran dan tanggung jawab dalam program keamanan AI
• Elemen kebijakan: pengembangan, pembelian, penggunaan, dan pemurnian
• Risiko pihak ketiga dan penggunaan alat AI penyedia

Lanskap Regulasi dan Trend Global

• Ulasan tentang EU AI Act dan regulasi internasional lainnya
• Kepres AS tentang AI yang Aman, Aman, dan Dapat Dipercaya
• Rangka kerja nasional baru dan panduan spesifik sektor

Workshop Opsional: Pemetaan Risiko dan Penilaian Sendiri

• Pemetaan kasus penggunaan AI dunia nyata ke fungsi NIST AI RMF
• Melakukan penilaian risiko sendiri dasar untuk AI
• Menentukan celah internal dalam kesiapan keamanan AI

Ringkasan dan Langkah Selanjutnya

AI Security dan Risk Management adalah praktik mengidentifikasi, memitigasi, dan mengatur ancaman keamanan, risiko keterpatuan, dan eksposur operasional dalam sistem dan alir kerja yang didorong oleh AI.

Pelatihan langsung yang dipandu instruktur (daring atau tatap muka) ini ditujukan untuk profesional IT keamanan, risiko, dan keterpatuan tingkat pemula yang ingin memahami konsep dasar keamanan AI, vektor ancaman, dan kerangka global seperti NIST AI RMF dan ISO/IEC 42001.

Setelah mengikuti pelatihan ini, peserta akan dapat:

• Mengerti risiko keamanan unik yang diperkenalkan oleh sistem AI.
• Mengidentifikasi vektor ancaman seperti serangan musuh, pencemaran data, dan inversi model.
• Menerapkan model pemerintahan dasar seperti Kerangka NIST AI Risk Management.
• Menyesuaikan penggunaan AI dengan standar yang muncul, pedoman keterpatuan, dan prinsip etika.

Format Kursus

• Lektur interaktif dan diskusi.
• Banyak latihan dan praktik.
• Pelaksanaan langsung dalam lingkungan laboratorium hidup.

Opsi Pemaduan Kursus

• Untuk meminta pelatihan yang dipersonalisasi untuk kursus ini, silakan hubungi kami untuk mengatur.

• Pemahaman tentang prinsip keamanan siber dasar
• Pengalaman dengan kerangka kerja pemerintahan IT atau manajemen risiko
• Ketertarikan terhadap konsep AI secara umum adalah bermanfaat tetapi tidak diperlukan

Audience

• Tim keamanan IT
• Pengelola risiko
• Profesional keterpatuan

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk profesional IT keamanan, risiko, dan keterpatuan tingkat pemula yang ingin memahami konsep dasar keamanan AI, vektor ancaman, dan kerangka global seperti NIST AI RMF dan ISO/IEC 42001.

Setelah mengikuti pelatihan ini, peserta akan dapat:

• Mengerti risiko keamanan unik yang diperkenalkan oleh sistem AI.
• Mengidentifikasi vektor ancaman seperti serangan musuh, pencemaran data, dan inversi model.
• Menerapkan model pemerintahan dasar seperti Kerangka NIST AI Risk Management.
• Menyesuaikan penggunaan AI dengan standar yang muncul, pedoman keterpatuan, dan prinsip etika.

introaisec

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk profesional tingkat menengah dalam bidang machine learning dan keamanan siber yang ingin memahami dan mengurangi ancaman baru terhadap model AI, menggunakan kerangka konseptual serta pertahanan praktis seperti pelatihan robust dan privasi diferensial.

Setelah menyelesaikan pelatihan ini, peserta akan dapat:

• Mengidentifikasi dan mengklasifikasikan ancaman spesifik AI seperti serangan musuh, inversion, dan poisoning.
• Menggunakan alat seperti Adversarial Robustness Toolbox (ART) untuk mensimulasikan serangan dan menguji model.
• Menerapkan pertahanan praktis termasuk pelatihan musuh, penyertaan noise, dan teknik yang mempertahankan privasi.
• Merancang strategi evaluasi model yang sadar ancaman di lingkungan produksi.

Pengantar Threat Modeling AI

• Apa yang membuat sistem AI rentan?
• Serangan permukaan AI vs sistem tradisional
• Vektor serangan utama: lapisan data, model, output, dan antarmuka

Serangan Musuh terhadap Model AI

• Mengerti contoh musuh dan teknik perturbasi
• Penyerangan white-box vs black-box
• Metode FGSM, PGD, dan DeepFool
• Visualisasi dan pembuatan sampel musuh

Inversi Model dan Kebocoran Privasi

• Menginfere data pelatihan dari output model
• Serangan inferensi keanggotaan
• Risiko privasi dalam model klasifikasi dan generatif

Pencemaran Data dan Injeksi Backdoor

• Bagaimana data yang dicemari mempengaruhi perilaku model
• Backdoors berbasis pemicu dan serangan Trojan
• Stra tegi deteksi dan sanitasi

Ketangguhan dan Teknik Pertahanan

• Pelatihan musuh dan augmentasi data
• Mengaburkan gradien dan pra-pemrosesan input
• Penyegaran model dan teknik regularisasi

Pertahanan AI yang Memperhatikan Privasi

• Pengantar privasi diferensial
• Penyertaan noise dan anggaran privasi
• Federated learning dan agregasi aman

AI Security dalam Prakteknya

• Evaluasi model yang sadar ancaman dan implementasinya
• Menggunakan ART (Adversarial Robustness Toolbox) di pengaturan terapan
• Studi kasus industri: pelanggaran dunia nyata dan mitigasi

Ringkasan dan Langkah Selanjutnya

Memperkuat Model AI adalah disiplin pertahanan sistem machine learning terhadap ancaman spesifik model seperti input musuh, pencemaran data, serangan inversion, dan kebocoran privasi.

Pelatihan langsung yang dipandu instruktur (daring atau tatap muka) ini ditujukan untuk profesional tingkat menengah dalam bidang machine learning dan keamanan siber yang ingin memahami dan mengurangi ancaman baru terhadap model AI, menggunakan kerangka konseptual serta pertahanan praktis seperti pelatihan robust dan privasi diferensial.

Setelah menyelesaikan pelatihan ini, peserta akan dapat:

• Mengidentifikasi dan mengklasifikasikan ancaman spesifik AI seperti serangan musuh, inversion, dan poisoning.
• Menggunakan alat seperti Adversarial Robustness Toolbox (ART) untuk mensimulasikan serangan dan menguji model.
• Menerapkan pertahanan praktis termasuk pelatihan musuh, penambahan noise, dan teknik yang mempertahankan privasi.
• Merancang strategi evaluasi model yang sadar ancaman di lingkungan produksi.

Format Kursus

• Lecture interaktif dan diskusi.
• Banyak latihan dan praktek.
• Pelaksanaan langsung dalam lingkungan laboratorium hidup.

Opsi Pemaduan Kursus

• Untuk meminta pelatihan yang dipersonalisasi untuk kursus ini, silakan hubungi kami untuk mengatur.

Persyaratan Praktis

• Kemampuan dalam alur kerja machine learning dan pelatihan model
• Pengalaman dengan Python dan kerangka kerja ML umum seperti PyTorch atau TensorFlow
• Familiaritas dengan konsep keamanan dasar atau modeling ancaman akan membantu

Audience

• Insinyur machine learning
• Analisis keamanan siber
• Peneliti AI dan tim validasi model