Kerangka Materi
Fondasi Arsitektur untuk Sistem AI
- Lapisan, batas, dan pemisahan kekhawatiran (separation of concerns)
- Port dan adapter yang diterapkan pada komponen AI
- Skenario atribut kualitas untuk fitur AI
- Catatan keputusan arsitektur sebagai tata kelola
Memperbarui Aplikasi yang Sudah Ada
- Modernisasi bertahap alih-alih menulis ulang
- Mempertaruhkan layanan AI di samping monolit yang sudah ada
- Pola Strangler dan lapisan anti-korupsi
- Titik integrasi untuk API dan data yang sudah ada
Pola Arsitektur Integrasi LLM
- Gateway model sebagai batas abstraksi
- Integrasi sinkron, asinkron, dan streaming
- Fallback, degradasi, dan failover penyedia
- Konfigurasi prompt dan model sebagai aset yang berversi
Kontrak, API, dan Pertukaran Data
- Skema output terstruktur dan validasi
- Idempotensi, retry, dan pembatasan laju
- Anggaran latensi dan orkestrasi timeout
- Biaya per permintaan sebagai kendala arsitektur
Arsitektur RAG dari Awal hingga Akhir
- Pipeline ingest, chunking, dan embedding
- Tahapan indeks, pencarian, reranking, dan generasi
- Penempatan pencarian relatif terhadap layanan aplikasi
- Kompromi (trade-offs) dan mode kegagalan pada setiap tahap
Database Vektor dan Desain Pencarian
- Penyimpanan vektor yang dikelola (managed) vs self-hosted
- Pencarian dense, sparse, dan hibrida
- Pemfilteran metadata dan isolasi tenant
- Strategi re-embedding ketika model berubah
Kualitas Pencarian, Grounding, dan Evaluasi
- Set evaluasi yang dibangun dari kueri nyata
- Metriks kualitas pencarian dan jawaban
- Kutipan, grounding, dan penahanan halusinasi
- Lingkaran umpan balik ke dalam indeks
Arsitektur Agen
- Siklus agen dan pemanggilan alat (tool)
- Alur kerja deterministik vs perencana otonom
- Kasus di mana agen bukanlah jawaban yang tepat
- Penetapan ruang lingkup tanggung jawab dan status agen
Sistem Multi-Agen dan Orkestrasi
- Topologi supervisor dan orchestrator
- Protokol handoff dan kontrak pesan
- Memori bersama dan manajemen konteks
- Perbandingan framework berdasarkan dasar arsitektur
Komunikasi Layanan dan Protokol Alat
- Koordinasi berbasis peristiwa (event-driven) dan antrean
- Paparan alat melalui protokol standar
- Sagas, kompensasi, dan transaksi berdurasi panjang
- Observabilitas melintasi hop layanan
Agen AI dalam Alur Kerja Pengembangan
- Agen coding di dalam pipeline pengiriman
- Pengembangan berbasis spesifikasi (spec-driven) dan gerbang peninjauan
- Generasi tes dan pemeriksaan kualitas otomatis
- Pagaran (guardrails) yang mempertahankan kontrol arsitektur
Tata Kelola dan Kualitas Perangkat Lunak
- Peninjauan desain untuk fitur AI
- Manajemen perubahan model dan prompt
- Evaluasi regresi sebagai tahap pipeline
- Kepemilikan, kebijakan, dan jalur persetujuan
Keamanan, Privasi, dan Tata Kelola Data
- Injeksi prompt dan pertahanan berlapis (defence in depth)
- Rahasia, kontrol akses, dan hak istimewa minimum (least privilege)
- Kediaman data, data pribadi, dan retensi
- Kemampuan diaudit dan kontrol human-in-the-loop
Skalabilitas, Biaya, dan Observabilitas
- Tracing melintasi rantai agen
- Telemetri token dan biaya
- Kaching dan optimasi latensi
- Tingkat layanan dan respons insiden untuk layanan AI
Capstone: Arsitektur untuk Solusi Berbasis AI
- Pandangan konteks, komponen, dan penyalan
- Desain orkestrasi pencarian dan agen
- Perencanaan keamanan, tata kelola, dan biaya
- Peninjauan oleh rekan sebaya, kritik, dan peta jalan migrasi
Persyaratan
- Pengalaman dalam merancang dan memelihara sistem perangkat lunak produksi
- Pengetahuan yang memadai tentang REST API dan integrasi layanan
- Keterampilan dalam database relasional dan pemodelan data
- Pengetahuan dasar tentang alat atau API berbasis LLM
Audience
- Arsitek perangkat lunak
- Pemimpin teknis dan engineer senior
- Manajer engineering yang bertanggung jawab atas keputusan arsitektur
Testimoni (1)
Saya mendapatkan pengetahuan tentang perpustakaan streamlit dari Python dan tentu saja saya akan mencoba menggunakannya untuk meningkatkan aplikasi di tim saya yang dibuat dengan R Shiny
Michal Maj - XL Catlin Services SE (AXA XL)
Kursus - GitHub Copilot for Developers
Diterjemahkan Mesin