Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Infrastruktur Sebagai Kode pada EXO
- Pemahaman mengenai pola penyebaran EXO: klaster dengan satu node, multi-node, serta penggunaan teknologi RDMA
- Mengotomatisasi instalasi komponen pendukung (Xcode, uv, Node.js, Rust) melalui manajemen konfigurasi
- Pemanfaatan Nix flakes untuk menghasilkan proses build EXO yang dapat diulang serta lingkungan pengembangan konsisten
- Penulisan skrip Ansible atau shell guna memudahkan penyediaan klaster tanpa campur tangan manual
Pembuatan Build yang Konsisten dan Integrasi CI
- Menetapkan versi komponen tertentu serta membangun antarmuka pengguna dalam alur kerja pipeline CI
- Mengjalankan tes validasi awal EXO di lingkungan GitHub Actions atau GitLab CI runner
- Menciptakan citra sistem yang andal serta strategi pengembalian ke kondisi sebelumnya berbasis snapshot untuk mesin virtual macOS maupun Linux
- Pengelolaan versi kartu deskripsi model bersama dengan kode aplikasi utama
Deteksi Klaster dan Otomatisasi Jaringan
- Mengatur konfigurasi mDNS maupun DNS statis guna memastikan deteksi node libp2p yang lancar
- Mengotomatisasi pembentukan profil jaringan serta pengelolaan penghubung Thunderbolt pada sistem macOS
- Pemanfaatan namespace khusus (EXO_LIBP2P_NAMESPACE) untuk memisahkan klaster dalam lingkungan pengembangan, uji coba, dan produksi
- Penetapan aturan firewall serta segmentasi jaringan guna menjaga keamanan lingkungan multi-pengguna
Strategi Penyimpanan dan Manajemen Siklus Hidup Model
- Perencanaan strategi EXO_MODELS_DIRS serta EXO_MODELS_READ_ONLY_DIRS secara efektif
- Menggunakan fasilitas NFS atau SAN sebagai repositori model yang dapat diakses secara read-only guna mempercepat proses penyediaan klaster
- Pembersihan file cache lama serta pengaturan kebijakan penahanan versi bobot model terbaru
- Automatisasi dalam mendownload model sebelum diperlukan, sekaligus memeriksa kesehatannya menjelang proses pembaruan sistem
Pemantauan dan Sistem Peringatan Dini
- Mengirim log aktivitas EXO ke sistem pencatatan terpusat seperti ELK, Loki, atau Splunk
- Membuat panel kontrol visual berbasis Grafana menggunakan data hasil pelacakan EXO_TRACING_ENABLED
- Mengatur pemberitahuan ketika terjadi perubahan komposisi klaster, gangguan memori ekstrem, atau lonjakan waktu respons saat inferensi model dilakukan
- Pengaitan data telemetri perangkat macmon dengan indikator penurunan kinerja model secara presisi
Strategi Pembaruan, Pengembalian Versi, serta Pemulihan Setelah Bencana
- Menerapkan versi terbaru komponen biner EXO pada node percobaan sebelum memperluas ke seluruh klaster
- Pengembalian ke versi model yang lebih lama: transisi antar versi kuantisasi tanpa perlu mengunduh ulang seluruhnya
- Pelaksanaan cadangan serta pengembalian kondisi klaster, namespace khusus, dan koleksi bobot model yang telah di-cache
- Pembuatan dokumentasi langkah-langkah pemulihan secara menyeluruh untuk mengatasi skenario pembongkaran total infrastruktur.
Perkuatan Keamanan dan Kepatuhan Regulasi
- Penerapan sertifikat TLS pada lapisan reverse proxy (nginx, traefik) guna mengamankan akses antarmuka dashboard serta API
- Implementasi pembatasan frekuensi permintaan API sekaligus mekanisme whitelisting alamat IP untuk setiap endpoint EXO
- Pemisahan klaster ke dalam VLAN terpisah serta penerapan aturan jaringan berbasis konsep zero-trust untuk menjamin isolasi data
- Operasional audit keamanan dan penyusunan inventaris menyeluruh mengenai model yang digunakan beserta versi masing-masing.
Persyaratan
- Pengalaman dalam menerapkan praktik DevOps (CI/CD, infrastruktur-sebagai-kode, manajemen konteiner)
- Kemampuan administrasi sistem macOS atau Linux serta pengelolaan paket software
- Pemahaman mengenai konsep jaringan, DNS, dan penyimpanan data
Target Peserta
- Insinyur DevOps
- Arsitek infrastruktur
- Spesialis SRE yang bertanggung jawab atas beban kerja AI di lingkungan on-premise
21 Jam
Testimoni (2)
Craig sangat terlibat dalam pelatihan, selalu memastikan kami tetap fokus, menyesuaikan contoh dengan aktivitas sehari-hari kami, dan selalu memberikan jawaban ketika ditanya, bahkan jika informasi tersebut tidak disertakan dalam presentasi.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kursus - DevOps Foundation®
Diterjemahkan Mesin
Tingkat komitmen dan pengetahuan pelatih yang tinggi
Jacek - Softsystem
Kursus - DevOps Engineering Foundation (DOEF)®
Diterjemahkan Mesin
