Kerangka Materi
AI di Perusahaan: Perspektif Strategis dan Hukum
- Adopsi AI dalam fungsi bisnis inti: peluang dan risiko
- Tanggung jawab eksekutif dalam pemerintahan AI
- Sistem AI berisiko tinggi dan eksposur organisasi
Klasifikasi Risiko AI dan Lanskap Regulatori Global
- UU AI EU: tier risiko, persyaratan, denda
- Perintah Eksekutif AS tentang AI dan peraturan federal/negara bagian yang sedang berkembang
- Kepatuhan terkait AI dalam GDPR, HIPAA, dan kerangka kerja lainnya
- Gambaran umum ISO/IEC 42001, NIST AI RMF, OECD AI Principles
Keamanan dan Pengawasan Sistem AI
- Postur keamanan AI: ancaman, kerentanan, dan perlindungan
- Tanggapan insiden dan pemberitahuan pelanggaran dalam alur kerja berbasis AI
- Audit dan keterlacakan input, keputusan, dan output model
Pengadaan AI yang Bertanggung Jawab dan Risiko Pemasok
- Due diligence saat memperoleh alat AI (termasuk LLMs dan APIs)
- Elemen kontrak kunci: kepemilikan data, penjelasan model, SLAs
- Evaluasi klaim pemasok: mitigasi bias, jaminan privasi, keselamatan
Kerangka Kerja Pemerintahan Internal dan Kontrol Organisasi
- Membuat kebijakan penggunaan AI di berbagai departemen
- Komite etika, dewan peninjau risiko, dan pengawasan lintas fungsi
- Pelatihan, dokumentasi, dan integrasi kepatuhan
Evaluasi Use Case dan Skenario Risiko
- Menilai use case berdampak tinggi (misalnya, penyaringan HR, penilaian keuangan, chatbot layanan pelanggan)
- Alat dan templat untuk penilaian risiko AI
- Skenario: ketidaksesuaian, drift, halusinasi, diskriminasi
Tren Muncul dan Pertimbangan Masa Depan
- Menyikapi evolusi regulasi dan konvergensi global
- Risiko spesifik GenAI dan perluasan pemerintahan
- Penyekalaan yang bertanggung jawab dari operasi AI di perusahaan
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Pemahaman tentang risiko perusahaan, hukum, atau kerangka kerja teknologi
- Pengalaman dalam kepemimpinan eksekutif, keamanan siber, atau pengawasan kepatuhan
- Pengetahuan teknis sebelumnya tentang pengembangan AI tidak diperlukan
Audience
- Chief Information Security Officers (CISOs)
- Konsultan hukum dan petugas kepatuhan
- Chief Technology Officers (CTOs)
Testimoni (2)
Saya sangat menikmati belajar tentang serangan AI dan alat-alat yang tersedia untuk mulai berlatih serta menggunakannya secara aktif dalam pengujian keamanan. Saya mendapatkan banyak pengetahuan baru yang sebelumnya tidak saya miliki, dan kursus ini sesuai dengan harapan saya. Bagian favorit saya dari pelatihan adalah Comet Browser, dan saya terkagum-kagum dengan kemampuannya. Saya pasti akan mengeksplorasi lebih dalam lagi. Secara keseluruhan, ini adalah kursus yang sangat baik, dan saya sangat menikmati mempelajari Top 10 OWASP GenAI.
Patrick Collins - Optum
Kursus - OWASP GenAI Security
Diterjemahkan Mesin
Pengetahuan profesional dan cara dia menyajikannya kepada kami
Miroslav Nachev - PUBLIC COURSE
Kursus - Cybersecurity in AI Systems
Diterjemahkan Mesin