Kerangka Materi
Pengenalan ke Keamanan dalam TinyML
- Tantangan keamanan dalam sistem ML terbatas sumber daya
- Model ancaman untuk penyebaran TinyML
- Kategori risiko untuk aplikasi AI tersemat
Privasi Data di AI Tepi
- Pertimbangan privasi untuk pemrosesan data on-device
- Minimasi paparan dan transfer data
- Teknik untuk penanganan data terdesentralisasi
Serangan Adversarial pada Model TinyML
- Ancaman evolusi dan keracunan model
- Manipulasi input pada sensor tersemat
- Penilaian kerentanan di lingkungan terbatas sumber daya
Pengerasan Keamanan untuk ML Tersemat
- Lapisan perlindungan firmware dan perangkat keras
- Kontrol akses dan mekanisme boot aman
- Praktik terbaik untuk melindungi pipeline inferensi
Teknik TinyML Memadai-Privasi
- Kuantisasi dan pertimbangan desain model untuk privasi
- Teknik untuk anonimisasi on-device
- Enkripsi ringan dan metode komputasi aman
Penyebaran Aman dan Pemeliharaan
- Penyediaan aman perangkat TinyML
- Strategi pembaruan OTA dan patching
- Monitoring dan respons insiden di tepi jaringan
Pengujian dan Validasi Sistem TinyML Aman
- Kerangka pengujian keamanan dan privasi
- Simulasi skenario serangan dunia nyata
- Pertimbangan validasi dan ketaatan
Studi Kasus dan Skenario Terapan
- Kegagalan keamanan dalam ekosistem AI tepi
- Mendesain arsitektur TinyML yang tahan lama
- Mengevaluasi trade-off antara kinerja dan perlindungan
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Pemahaman tentang arsitektur sistem tersemat
- Pengalaman dengan alur kerja pembelajaran mesin
- Pengetahuan tentang dasar-dasar keamanan siber
Audience
- Analis Keamanan
- Pengembang AI
- Insinyur Tersemat
Testimoni (2)
Saya sangat menikmati belajar tentang serangan AI dan alat-alat yang tersedia untuk mulai berlatih serta menggunakannya secara aktif dalam pengujian keamanan. Saya mendapatkan banyak pengetahuan baru yang sebelumnya tidak saya miliki, dan kursus ini sesuai dengan harapan saya. Bagian favorit saya dari pelatihan adalah Comet Browser, dan saya terkagum-kagum dengan kemampuannya. Saya pasti akan mengeksplorasi lebih dalam lagi. Secara keseluruhan, ini adalah kursus yang sangat baik, dan saya sangat menikmati mempelajari Top 10 OWASP GenAI.
Patrick Collins - Optum
Kursus - OWASP GenAI Security
Diterjemahkan Mesin
Pengetahuan profesional dan cara dia menyajikannya kepada kami
Miroslav Nachev - PUBLIC COURSE
Kursus - Cybersecurity in AI Systems
Diterjemahkan Mesin