Kerangka Materi
Hari 1
Analisis Komponen Utama Agen AI Modern
Lebih dari sekadar chatbot: agen sebagai sistem penalaran dan aksi mandiri
Bentuk-bentuk paradigma agen seperti reaktif, proaktif, hibrida, serta berorientasi tujuan
Komponen inti agen: persepsi, perencanaan, memori, pemanfaatan alat bantu, dan aksi
Perbandingan desain sistem agen tunggal versus multi-agen
Kerangka Kerja Agen dan Ekosistem Teknologi Terkini
LangChain, LlamaIndex, AutoGen, CrewAI serta keunggulan masing-masing
Perbandingan dengan kerangka kerja klasik seperti JADE dan SPADE
Cara memilih kerangka kerja sesuai kebutuhan produksi
Penggunaan alat bantu eksternal, fungsi khusus, serta format output yang terstruktur
Latihan praktis: membuat struktur agen Python tunggal dengan fitur panggilan alat bantu
Arsitektur Sistem Multi-Agen
Bentuk desain sistem multi-agen seperti terpusat, tersebar, hibrida, dan bertingkat
FIPA ACL, mekanisme pertukaran pesan, serta versi modernnya
Pola koordinasi: perencanaan, negosiasi, dan penyelarasan aksi antar agen
Perilaku kolektif serta kemampuan pengaturan diri dalam kelompok agen
Pengambilan Keputusan dan Pembelajaran pada Agen AI
Penerapan teori permainan guna mengelola interaksi antar agen kooperatif maupun kompetitif
Metode pembelajaran penguatan dalam lingkungan multi-agen
Teknik transfer pengetahuan serta bagaimana informasi dibagikan antar agen
Cara mengatasi konflik dan membangun kepercayaan antar agen yang berkoordinasi
Hari 2
Dasar-Dasar Persepsi Multimodal untuk Agen AI
Konsep AI multimodal sebagai alur kerja terpadu memanfaatkan teks, gambar, suara, dan video
Model-model utama multimodal: GPT-4 Vision, Gemini, Claude, Whisper
Teknik penggabungan informasi dari berbagai moda dalam proses penalaran agen
Pertimbangan mengenai latensi, biaya operasional, dan akurasi pada arus kerja multimodal
Membangun Lapisan Persepsi untuk Agen AI
Pengolahan gambar oleh agen: klasifikasi, pembuatan deskripsi, serta deteksi objek
Pengenalan suara menggunakan Whisper ASR dan transkripsi secara real-time
Sintesis teks menjadi suara yang alami untuk interaksi suara-bahasa
Cara mengintegrasikan hasil persepsi ke dalam proses penalaran serta pemilihan alat bantu oleh LLM
Latihan Praktis - Membangun Agen AI Multimodal dengan Python
Mendefinisikan tugas agen, ruang konteks informasi, serta daftar alat yang tersedia
Mengintegrasikan API GPT-4 Vision dan Whisper secara menyeluruh dalam sistem
Implementasi mekanisme memori, penyimpanan status, serta pengelolaan percakapan
Pengaturan panggilan alat bantu yang mampu memberikan efek nyata secara aman
Latihan Praktis - Mengkoordinasikan Sistem Multi-Agen
Membentuk tim agen spesialis dengan AutoGen atau CrewAI
Mengatur peran, tanggung jawab, serta protokol komunikasi antar agen
Pendistribusian sumber daya dan penyesuaian interaksi dalam lingkungan simulasi
Penulisan log aktivitas penalaran agen, panggilan alat bantu, serta keputusan yang diambil untuk tujuan inspeksi dan audit
Hari 3
Ruang Ancaman Keamanan pada Agen AI Produksi
Karakteristik unik agen AI yang membuatnya rentan dibanding perangkat lunak konvensional
Peta permukaan serangan meliputi data, model, prompt, alat bantu, hasil output, serta antarmuka pengguna
Pendekatan pemodelan risiko keamanan terhadap sistem agen dengan kemampuan menggunakan alat secara mandiri
Perbandingan praktik keamanan AI dibandingkan metode pertahanan siber tradisional
Latihan Praktis - Serangan Jahat terhadap Agen AI
Contoh-contoh serangan jahat serta teknik pengubahan data: FGSM, PGD, DeepFool
Pembedaan antara skenario serangan white-box dan black-box
Metode penyusupan informasi rahasia lewat model serta prediksi pola data tertentu
Teknik keracunan data dan pemasangan backdoor saat proses pelatihan AI dilakukan
Cara serangan berupa injeksi prompt, upaya melewati batasan sistem, serta penyalahgunaan alat bantu pada agen berbasis LLM
Teknik Pertahanan dan Penguatan Ketahanan Model AI
Metode latihan khusus terhadap data anomali serta strategi augmentasi data yang efektif
Penerapan teknik seperti defensive distillation untuk meningkatkan keamanan sistem
Pra-pengolahan input, penyamaran gradien, dan pendekatan regularisasi pada model AI
Konsep privasi diferensial, pemberian ‘noise’ data, serta pengelolaan anggaran privasi
Penerapan federated learning serta mekanisme agregasi aman saat pelatihan berskala luas
Latihan Praktis Menggunakan Adversarial Robustness Toolbox
Mensimulasikan serangan terhadap agen multimodal yang dibuat pada Hari 2 sebelumnya
Pengukuran seberapa tahan sistem ini terhadap gangguan serta perhitungan tingkat penurunan performanya
Uji coba berulang strategi pertahanan serta pemantauan efektivitasnya menanggulangi serangan jahat
Pengujian mendalam pada jalur panggilan alat bantu maupun vektor serangan injeksi prompt secara sistematis
Hari 4
Kerangka Manajemen Risiko AI
NIST AI Risk Management Framework: pengendalian, pemetaan, evaluasi, serta pengelolaan risiko secara komprehensif
ISO/IEC 42001 serta standar lain yang khusus mengatur teknologi AI saat ini dan masa depan
Cara menyesuaikan kategori risiko AI dengan kerangka manajemen risiko perusahaan secara keseluruhan
Prinsip akuntabilitas, kepatuhan audit, serta persyaratan dokumentasi sistem AI yang tepat
Kepatuhan Regulasi untuk Sistem Agen AI
Analisis Undang-Undang AI Uni Eropa: klasifikasi tingkat risiko, aktivitas terlarang, serta kewajiban bagi sistem beresiko tinggi
Implikasi GDPR dan CCPA terhadap aliran data yang diolah oleh agen AI
Panduan eksekutif Amerika Serikat tentang implementasi AI yang aman, terjaga keamanannya, serta dapat dipercaya
Petunjuk khusus sektor industri: bidang keuangan, layanan kesehatan, dan publik secara umum
Pengelolaan risiko pihak ketiga termasuk penggunaan alat bantu AI dari vendor eksternal
Etika, Pengurangan Bias, serta Aspek Kejelasan Logika Agen AI
Cara mendeteksi dan mengoreksi bias yang muncul pada tahap persepsi maupun penalaran agen AI
Pentingnya transparansi mekanisme pengambilan keputusan sebagai faktor penting dalam aspek keamanan sistem
Prinsip keadilan, upaya pencegahan kerugian sosial, serta strategi penempatan agen AI secara bertanggung jawab
Cara mengembangkan perilaku agen yang inklusif serta dapat diaudit dengan mudah
Implementasi Produksi, Pemantauan Kontinu, serta Penanganan Insiden Keamanan AI
Strategi penerapan aman sistem agen tunggal maupun multi-agen dalam produksi nyata
Pemantauan berkelanjutan untuk mendeteksi penyimpangan, anomali, serta penggunaan tidak sah oleh entitas eksternal
Penulisan log aktivitas agen, pembuatan jejak audit, serta persiapan sistem untuk investigasi forensik secara memadai
Pedoman penanganan insiden keamanan AI beserta rencana pemulihan infrastruktur yang efektif
Analisis kasus pelanggaran nyata terkait sistem AI serta hikmah yang bisa diambil darinya
Penutupan Kursus dan Sintesis Pengetahuan
Tinjauan menyeluruh terhadap konsep serta implementasi sistem multimodal multi-agen selama pelatihan berlangsung
Evaluasi proses pengembangan secara end-to-end: desain, pembangunan, keamanan, regulasi, hingga produksi akhirnya
Penilaian mandiri sistem terhadap fungsi-fungsi utama NIST AI RMF sebagai patokan performa optimal
Gambaran arah perkembangan masa depan teknologi agen AI serta strategi pertahanan keamanannya secara global
Kesimpulan dan Langkah Selanjutnya
Persyaratan
Target Peserta
Insinyur dan arsitek AI yang merancang sistem agen untuk lingkungan produksi. Profesional bidang keamanan siber, risiko, serta kepatuhan regulasi yang bertugas memastikan kualitas AI di sektor-sektor teratur seperti keuangan, kesehatan, dan konsultansi. Pengembang senior maupun pemimpin solusi yang mengintegrasikan fitur multimodal dan multi-agen ke dalam platform perusahaan.
Testimoni (3)
Instruktur ini sabar dan sangat membantu. Ia memahami topik dengan baik.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kursus - Agentic AI for Business Automation: Use Cases & Integration
Diterjemahkan Mesin
Campuran yang baik antara pengetahuan dan praktik
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kursus - Agentic AI for Enterprise Applications
Diterjemahkan Mesin
Campuran teori dan praktik serta perspektif tingkat tinggi dan tingkat rendah
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kursus - Autonomous Decision-Making with Agentic AI
Diterjemahkan Mesin
