Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Infrastruktur sebagai Kode EXO
- Ikhtisar pola penyebaran EXO: klaster satu-node, multi-node, dan RDMA
- Mengotomatiskan instalasi dependensi (Xcode, uv, Node.js, Rust) dengan manajemen konfigurasi
- Menggunakan Nix flakes untuk pembangunan EXO dan lingkungan pengembang yang dapat direproduksikan
- Menulis playbook Ansible atau skrip shell untuk penyediaan klaster tanpa pengawasan
Pembangunan yang Dapat Direproduksikan dan Integrasi CI
- Mempin dependensi dan membangun dasbor dalam pipeline CI
- Menjalankan uji asap EXO di runner GitHub Actions atau GitLab CI
- Membuat gambar emas dan alur rollback berbasis snapshot untuk VM macOS dan Linux
- Memberi versi kartu model kustom bersama dengan kode aplikasi
Automasia Penemuan dan Jaringan Klaster
- Mengonfigurasi mDNS dan DNS statis untuk penemuan node libp2p yang andal
- Mengotomatiskan pembuatan profil jaringan dan manajemen jembatan Thunderbolt di macOS
- Menggunakan namespace kustom (EXO_LIBP2P_NAMESPACE) untuk memisahkan klaster dev, staging, dan prod
- Aturan firewall dan segmentasi jaringan untuk lingkungan multi-penyewa
Pengelolaan Siklus Hidup Penyimpanan dan Model
- Mendesain strategi EXO_MODELS_DIRS dan EXO_MODELS_READ_ONLY_DIRS
- Mounting berbagi NFS atau SAN sebagai repositori model read-only untuk penyediaan cepat
- Pengumpulan ulang cache usang dan kebijakan retensi bobot versi
- Mengotomatiskan unduhan awal model dan pemeriksaan kesehatan sebelum pembaruan bergulir
Pemantauan dan Peringatan
- Mengirim log EXO ke logging terpusat (ELK, Loki, atau Splunk)
- Membuat dasbor Grafana dari output EXO_TRACING_ENABLED
- Peringatan pada perubahan keanggotaan klaster, kejadian OOM, dan lonjakan latensi inferensi
- Mengkorelasikan telemetri perangkat keras macmon dengan regresi kinerja model
Pembaruan, Rollback, dan Pemulihan Bencana
- Staging pembaruan biner EXO di node canary sebelum penyebaran ke seluruh armada
- Rollback tingkat model: beralih antar versi yang dikuantisasi tanpa mengunduh ulang
- Backup dan pemulihan keadaan klaster, namespace kustom, dan bobot cache
- Dokumentasi buku panduan pemulihan untuk skenario pembangunan ulang klaster total
Pengerasan Keamanan dan Kepatuhan
- Menerapkan TLS di lapisan reverse proxy (nginx, traefik) untuk dasbor dan API
- Mengimplementasikan pembatasan laju API dan daftar putih IP untuk titik akhir EXO
- Menyisolasi klaster dengan VLAN dan kebijakan jaringan zero-trust
- Audit akses dan mempertahankan inventaris model yang dipasang dan versinya
Persyaratan
- Pengalaman dengan praktik DevOps (CI/CD, IaC, orkestrasi kontainer)
- Kehadiran dengan administrasi sistem macOS atau Linux dan manajemen paket
- Pemahaman tentang konsep jaringan, DNS, dan penyimpanan
Audiens
- Insinyur DevOps
- Arsitek infrastruktur
- SRE yang bertanggung jawab atas beban kerja AI on-premise
21 Jam
Testimoni (2)
Craig sangat terlibat dalam pelatihan, selalu memastikan kami tetap fokus, menyesuaikan contoh dengan aktivitas sehari-hari kami, dan selalu memberikan jawaban ketika ditanya, bahkan jika informasi tersebut tidak disertakan dalam presentasi.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kursus - DevOps Foundation®
Diterjemahkan Mesin
Tingkat komitmen dan pengetahuan pelatih yang tinggi
Jacek - Softsystem
Kursus - DevOps Engineering Foundation (DOEF)®
Diterjemahkan Mesin
