Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Deployment EXO Offline
- Menggunakan EXO_OFFLINE untuk mencegah akses internet runtime
- Memuat model ke dalam EXO_MODELS_READ_ONLY_DIRS dari mirror internal yang terpercaya
- Memverifikasi integritas beban model dengan checksum SHA-256 dan kartu model bertanda tangan
- Mengoperasikan EXO di jaringan air-gapped tanpa ketergantungan HuggingFace
Kontrol Akses Dashboard dan API
- Memasang dan mengkonfigurasi proxy reverse (nginx, Caddy) dengan terminasi TLS
- Mengimplementasikan kontrol akses berbasis peran untuk dashboard EXO dan REST API
- Menggunakan keychain macOS atau Linux pass untuk menyimpan rahasia untuk autentikasi API
- Membatasi titik akhir administratif ke rentang IP sumber tertentu
Isolasi Klaster dan Keamanan Jaringan
- Segmentasi klaster EXO dengan EXO_LIBP2P_NAMESPACE dan VLAN
- Mengkonfigurasi firewall host (firewall aplikasi macOS, iptables, nftables) untuk port EXO
- Mencegah penemuan perangkat tidak sah dan injeksi node rogue
- Mengenkripsi traffic libp2p antara node ketika RDMA tidak tersedia
Tata Kelola Model dan Provenance
- Membangun registry model internal dengan daftar model yang disetujui dan metadata
- Menandai dan melakukan versivering beban terkuantisasi (4-bit, 8-bit) bersama checkpoint sumber
- Menerapkan bahwa hanya repositori HuggingFace tertentu atau artefak internal yang dapat dimuat
- Mendokumentasikan silsilah model, persyaratan lisensi, dan kebijakan penggunaan yang dapat diterima
Logging Audit dan Kepatuhan
- Mengkonfigurasi forwarding log EXO ke trail audit yang immutable (SIEM, penyimpanan WORM)
- Mengorelasikan log panggilan API dengan identitas pengguna dan timestamp
- Mengambil peristiwa pembuatan, penghapusan, dan permintaan inferensi instance model
- Menghasilkan laporan kepatuhan berkala untuk auditor internal dan eksternal
Pemodelan Ancaman dan Respons Insiden
- Mengidentifikasi ancaman: eksfiltrasi data melalui output model, injeksi prompt, kebocoran saluran samping
- Mengimplementasikan pemantauan prompt dan pipeline filtering konten
- Membuat buku panduan respons insiden untuk skenario kompromi klaster
- Mengisolasi node yang terpengaruh, mempertahankan log forensik, dan membangun ulang lingkungan bersih
Keamanan Fisik dan Batas Perangkat Keras
- Mengamankan port Thunderbolt terhadap koneksi kabel RDMA yang tidak sah
- Menggunakan enclave aman dan attestation perangkat keras Apple Silicon bila berlaku
- Mengendalikan akses fisik ke Mac klaster dan penyimpanan bersama
- Mendokumentasikan siklus hidup perangkat keras dan prosedur dekomisioning
Pertimbangan Regulasi
- Pemetaan deployment EXO ke persyaratan GDPR, HIPAA, dan SOC 2
- Mempertahankan residensi data dengan menjaga inferensi on-premise
- Mendokumentasikan risiko rantai pasokan vendor (MLX, EXO, beban model)
- Memastikan kerangka tata kelola AI seperti Pasal 53 EU AI Act
Persyaratan
- Pengalaman dengan EXO atau runtime LLM lokal lainnya
- Pemahaman tentang izin sistem file Unix dan ACL jaringan
- Kenyamanan dengan manajemen sertifikat TLS/SSL dan dasar-dasar enkripsi
Audiens
- Insinyur keamanan
- Petugas kepatuhan
- Administrator infrastruktur AI yang menangani data sensitif
14 Jam
Testimoni (1)
Instruktur memiliki pengetahuan yang sangat baik tentang FortiGate dan menyampaikan materi dengan sangat baik. Terima kasih banyak kepada Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Kursus - FortiGate 7.4 Administration
Diterjemahkan Mesin
