Kursus Pelatihan Red Teaming AI Systems: Offensive Security for ML Models

Pelatihan interaktif ini di Indonesia (daring atau tatap muka) ditujukan bagi pemimpin perusahaan tingkat menengah yang ingin memahami bagaimana mengatur dan melindungi sistem AI secara bertanggung jawab sesuai dengan kerangka kerja global baru seperti EU AI Act, GDPR, ISO/IEC 42001, dan Keputusan Eksekutif AS tentang AI.

Setelah pelatihan ini, peserta akan dapat:

• Memahami risiko hukum, etika, dan regulasi dalam penggunaan AI di seluruh departemen.
• Menginterpretasikan dan menerapkan kerangka kerja pengaturan AI utama (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Menetapkan kebijakan keamanan, audit, dan pengawasan untuk implementasi AI di perusahaan.
• Mengembangkan pedoman pembelian dan penggunaan sistem AI pihak ketiga dan internal.

Artificial Intelligence (AI) memperkenalkan dimensi baru dari risiko operasional, tantangan pengelolaan, dan paparan keamanan siber bagi lembaga pemerintah dan departemen.

Pelatihan langsung (daring atau tatap muka) yang dipandu instruktur ini ditujukan untuk profesional IT dan risiko sektor publik dengan pengalaman terbatas dalam AI yang ingin memahami bagaimana mengevaluasi, memantau, dan melindungi sistem AI dalam konteks pemerintahan atau regulasi.

Pada akhir pelatihan ini, peserta akan dapat:

• Menafsirkan konsep risiko kunci terkait sistem AI, termasuk bias, ketidakpastian, dan perubahan model.
• Menerapkan kerangka pengelolaan dan audit spesifik AI seperti NIST AI RMF dan ISO/IEC 42001.
• Mengenali ancaman keamanan siber yang menargetkan model AI dan pipa data.
• Menetapkan rencana pengelolaan risiko lintas departemen dan penyesuaian kebijakan untuk implementasi AI.

Format Kursus

• Ceramah interaktif dan diskusi tentang kasus penggunaan sektor publik.
• Latihan kerangka kerja pengelolaan AI dan pemetaan kebijakan.
• Modelling ancaman berbasis skenario dan evaluasi risiko.

Opsi Kustomisasi Pelatihan

• Untuk meminta pelatihan yang disesuaikan untuk kursus ini, silakan hubungi kami untuk mengatur.

Pelatihan langsung yang dipimpin instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk profesional IT level pemula hingga menengah yang ingin memahami dan menerapkan AI TRiSM dalam organisasi mereka.

Di akhir pelatihan ini, peserta akan dapat:

• Memahami konsep-konsep kunci dan pentingnya manajemen kepercayaan, risiko, dan keamanan AI.
• Mengidentifikasi dan mengurangi risiko yang terkait dengan sistem AI.
• Menerapkan praktik terbaik keamanan untuk AI.
• Memahami keteraturan regulasi dan pertimbangan etika dalam AI.
• Mengembangkan strategi untuk manajemen dan pengendalian AI yang efektif.

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk pengembang AI, arsitek, dan manajer produk tingkat menengah hingga lanjutan yang ingin mengidentifikasi dan memitigasi risiko terkait aplikasi berbasis LLM, termasuk injeksi prompt, kebocoran data, dan output tidak difilter, sambil mengintegrasikan kontrol keamanan seperti validasi input, pengawasan manusia dalam loop, dan batasan output.

Setelah selesai pelatihan ini, peserta akan dapat:

• Mengerti kerentanan inti dari sistem berbasis LLM.
• Menerapkan prinsip desain aman pada arsitektur aplikasi LLM.
• Menggunakan alat seperti Guardrails AI dan LangChain untuk validasi, penyaringan, dan keamanan.
• Mengintegrasikan teknik seperti sandboxing, red teaming, dan tinjauan manusia dalam loop ke pipa produksi kelas tinggi.

Pelatihan langsung yang dipandu instruktur di Indonesia (online atau offline) ini ditujukan untuk profesional AI dan keamanan siber tingkat menengah yang ingin memahami dan mengatasi kerentanan keamanan spesifik pada model dan sistem AI, terutama di industri-regulasi tinggi seperti keuangan, pengelolaan data, dan konsultansi.

Setelah pelatihan ini selesai, peserta akan dapat:

• Memahami jenis serangan musuh yang ditujukan pada sistem AI serta metode untuk melawan mereka.
• Melaksanakan teknik pemadatan model untuk memperkuat pipa machine learning.
• Menjaga keamanan dan integritas data dalam model machine learning.
• Memahami persyaratan kompatibilitas peraturan terkait keamanan AI.

Pelatihan langsung yang dipimpin instruktur di Indonesia (online atau di tempat) ini ditujukan bagi profesional IT keamanan, risiko, dan keterpatuan tingkat pemula yang ingin memahami konsep dasar keamanan AI, vektor ancaman, dan kerangka kerja global seperti NIST AI RMF dan ISO/IEC 42001.

Di akhir pelatihan ini, peserta akan dapat:

• Memahami risiko keamanan unik yang diperkenalkan oleh sistem AI.
• Mengidentifikasi vektor ancaman seperti serangan musuh, pencemaran data, dan inversi model.
• Menerapkan model pemerintahan dasar seperti Kerangka Kerja NIST AI Risk Management.
• Menyesuaikan penggunaan AI dengan standar berkembang, pedoman keterpatuan, dan prinsip etika.

Pelatihan langsung yang dipimpin instruktur di Indonesia (daring atau tatap muka) ini ditujukan bagi profesional tingkat lanjut yang ingin mengimplementasikan dan mengevaluasi teknik seperti pembelajaran terfederasi, komputasi multiparty aman, enkripsi homomorfik, dan privasi diferensial dalam pipa kerja pembelajaran mesin dunia nyata.

Pada akhir pelatihan ini, peserta akan dapat:

• Memahami dan membandingkan teknik kunci pengawetan privasi di ML.
• Mengimplementasikan sistem pembelajaran terfederasi menggunakan kerangka kerja open-source.
• Menerapkan privasi diferensial untuk berbagi data dan melatih model dengan aman.
• Menggunakan teknik enkripsi dan komputasi aman untuk melindungi input dan output model.

Pelatihan langsung yang dipimpin instruktur di Indonesia (daring atau tatap muka) ini ditujukan bagi insinyur dan profesional keamanan tingkat menengah yang ingin melindungi model AI yang dideploy di pinggiran terhadap ancaman seperti perusakan, kebocoran data, input berbahaya, dan serangan fisik.

Setelah pelatihan ini selesai, peserta akan dapat:

• Mengidentifikasi dan menilai risiko keamanan dalam penempatan AI di pinggiran.
• Menerapkan teknik ketahanan terhadap perusakan dan inferensi yang terenkripsi.
• Memperkuat model yang dideploy di pinggiran dan melindungi pipa data.
• Melaksanakan strategi mitigasi ancaman spesifik untuk sistem embedded dan terbatas.

Pelatihan langsung yang dipandu instruktur di Indonesia (daring atau tatap muka) ini ditujukan untuk profesional tingkat menengah di bidang machine learning dan keamanan siber yang ingin memahami dan mengurangi ancaman baru terhadap model AI, menggunakan kerangka konseptual serta pertahanan praktis seperti pelatihan robust dan privasi diferensial.

Selesai mengikuti pelatihan ini, peserta akan dapat:

• Mengidentifikasi dan klasifikasi ancaman spesifik AI seperti serangan lawan, inversi, dan penyemprotan data.
• Menggunakan alat seperti Adversarial Robustness Toolbox (ART) untuk mensimulasikan serangan dan menguji model.
• Menerapkan pertahanan praktis termasuk pelatihan lawan, penyertaan noise, dan teknik yang menjaga privasi.
• Merancang strategi evaluasi model yang sadar akan ancaman dalam lingkungan produksi.