Kerangka Materi
Hari 1
Anatomi Agen AI Modern
Di luar chatbot, agen sebagai sistem penalaran dan tindakan otonom
Paradigma agen reaktif, proaktif, hibrid, dan berorientasi tujuan
Komponen inti: persepsi, perencanaan, memori, penggunaan alat, tindakan
TTrade-off desain antara agen tunggal dan multi-agen
Kerangka Kerja Agen dan Tumpukan Modern
LangChain, LlamaIndex, AutoGen, CrewAI dan trade-off masing-masing
Perbandingan dengan kerangka kerja klasik seperti JADE dan SPADE
Memilih kerangka kerja berdasarkan persyaratan produksi
Panggilan alat, panggilan fungsi, dan output terstruktur
Praktik: membuat scaffolding agen Python tunggal dengan panggilan alat
Arsitektur Sistem Multi-Agen
Desain MAS terpusat, desentralisasi, hibrid, dan berlapis
FIPA ACL, pertukaran pesan, dan setara modernnya
Polanya koordinasi: perencanaan, negosiasi, sinkronisasi
Perilaku emergent dan organisasi diri dalam populasi agen
Pengambilan Keputusan dan Pembelajaran dalam Agen
Teori permainan untuk interaksi agen kooperatif dan kompetitif
Pembelajaran penguatan dalam lingkungan multi-agen
Pembelajaran transfer dan berbagi pengetahuan antar agen
Penyelesaian konflik dan kepercayaan antar agen yang berkoordinasi
Hari 2
Fondasi Multi-Modal untuk Agen
AI multi-modal sebagai alur kerja terpadu lintas teks, gambar, ucapan, dan video
Model multi-modal terkemuka: GPT-4 Vision, Gemini, Claude, Whisper
Teknik fusi untuk menggabungkan modalitas dalam loop penalaran agen
Trade-off latensi, biaya, dan akurasi dalam pipa multi-modal
Membangun Lapisan Persepsi
Pengolahan gambar untuk agen: klasifikasi, captioning, deteksi objek
Pengenalan ucapan dengan Whisper ASR dan transkripsi streaming
Sintesis teks-ke-ucapan dan interaksi suara alami
Menyambungkan output persepsi ke penalaran berbasis LLM dan pemilihan alat
Praktik - Membangun Agen Multi-Modal di Python
Mendefinisikan tugas agen, jendela konteks, dan inventaris alat
Menghubungkan API GPT-4 Vision dan Whisper secara end-to-end
Mengimplementasikan memori, keadaan, dan manajemen percakapan
Menambahkan panggilan alat yang menghasilkan efek samping dunia nyata secara aman
Praktik - Mengoordinasikan Sistem Multi-Agen
Menggabungkan agen khusus dengan AutoGen atau CrewAI
Mendefinisikan peran, tanggung jawab, dan protokol komunikasi antar-agen
Alokasi sumber daya dan koordinasi dalam lingkungan simulasi
Mencatat penalaran agen, panggilan alat, dan keputusan untuk inspeksi dan audit
Hari 3
Permukaan Ancaman Agen AI Produksi
Apa yang membuat AI agentic secara unik rentan dibandingkan perangkat lunak tradisional
Permukaan serangan: lapisan data, model, prompt, alat, output, dan antarmuka
Pemodelan ancaman untuk sistem berbasis agen dengan penggunaan alat otonom
Mempraktikkan praktik keamanan siber AI dibandingkan dengan keamanan siber tradisional
Praktik Serangan Adversarial
Contoh adversarial dan metode perturbasi: FGSM, PGD, DeepFool
Skenario serangan white-box versus black-box
Serangan inversi model dan inferensi keanggotaan
Meracuni data dan penyuntikan backdoor selama pelatihan
Suntikan prompt, jailbreaking, dan penyalahgunaan alat pada agen berbasis LLM
Teknik Pertahanan dan Penguatan Model
Strategi pelatihan adversarial dan augmentasi data
Distilasi defensif dan teknik ketahanan lainnya
Pra-pemrosesan input, pemaskeran gradien, dan regularisasi
Privasi diferensial, injeksi noise, dan anggaran privasi
Pembelajaran federasi dan agregasi aman untuk pelatihan terdistribusi
Praktik dengan Adversarial Robustness Toolbox
Simulasi serangan terhadap agen multi-modal yang dibangun pada Hari 2
Mengukur ketahanan di bawah perturbasi dan mengkuantifikasi degradasi
Menerapkan pertahanan secara iteratif dan mengevaluasi ulang tingkat keberhasilan serangan
Menguji tekan jalur panggilan alat dan vektor suntikan prompt
Hari 4
Kerangka Manajemen Risiko untuk AI
NIST AI Risk Management Framework: govern (tata kelola), map (peta), measure (ukur), manage (kelola)
ISO/IEC 42001 dan standar khusus AI yang sedang muncul
Memetakan risiko AI ke kerangka GRC (Governance, Risk, Compliance) perusahaan yang ada
Persyaratan akuntabilitas, dapat diaudit, dan dokumentasi AI
Kepatuhan Regulasi untuk Sistem Agentic
EU AI Act: tingkat risiko, penggunaan terlarang, dan kewajiban untuk sistem berisiko tinggi
Dampak GDPR dan CCPA pada pipa data agen
Peraturan Eksekutif AS tentang AI yang Aman, Terjamin, dan Terpercaya
Panduan spesifik sektor untuk keuangan, kesehatan, dan layanan publik
Risiko pihak ketiga dan penggunaan alat AI oleh pemasok
Etika, Bias, dan Penjelasan (Explainability)
Deteksi dan mitigasi bias melintasi persepsi dan penalaran agen
Penjelasan dan transparansi sebagai properti yang relevan dengan keamanan
Keadilan, kerugian downstream, dan deployment bertanggung jawab
Mendesain perilaku agen yang inklusif dan dapat diaudit
Deployment Produksi, Pemantauan, dan Tanggap Insiden
Pattern deployment aman untuk sistem agen tunggal dan multi-agen
Pemantauan berkelanjutan untuk drift, anomali, dan penyalahgunaan
Pencatatan, jejak audit, dan kesiapan forensik untuk tindakan agen
Panduan tanggap insiden keamanan AI dan pemulihan
Studi kasus tentang pelanggaran AI dunia nyata dan pelajaran yang didapat
Kapstone dan Sintesis
Mereview sistem multi-modal multi-agen yang dibangun sepanjang kursus
Review pipa end-to-end: desain, bangun,amankan, kelola, deploy
Penilaian diri sistem terhadap fungsi NIST AI RMF
Wawasan ke depan tentang tren yang muncul dalam AI agentic dan keamanan AI
Ringkasan dan Langkah Selanjutnya
Persyaratan
Penonton Sasaran
Insinyur dan arsitek AI yang membangun sistem agentic untuk penggunaan produksi. Profesional keamanan siber, risiko, dan kepatuhan yang bertanggung jawab atas jaminan AI di industri berregulasi seperti keuangan, kesehatan, dan konsultasi. Pengembang senior dan pemimpin solusi yang mengintegrasikan kemampuan multi-modal dan multi-agen ke dalam platform perusahaan.
Testimoni (3)
Instruktur ini sabar dan sangat membantu. Ia memahami topik dengan baik.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kursus - Agentic AI for Business Automation: Use Cases & Integration
Diterjemahkan Mesin
Campuran yang baik antara pengetahuan dan praktik
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kursus - Agentic AI for Enterprise Applications
Diterjemahkan Mesin
Campuran teori dan praktik serta perspektif tingkat tinggi dan tingkat rendah
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kursus - Autonomous Decision-Making with Agentic AI
Diterjemahkan Mesin
