Hubungi Kami

Kerangka Materi

Pengembangan EXO Offline

  • Menggunakan EXO_OFFLINE untuk mencegah akses internet saat runtime
  • Memuat model ke dalam EXO_MODELS_READ_ONLY_DIRS dari mirror internal tepercaya
  • Memverifikasi integritas bobot model dengan checksum SHA-256 dan kartu model bertanda tangan
  • Mengoperasikan EXO di jaringan air-gapped tanpa ketergantungan pada HuggingFace

Kontrol Akses Dashboard dan API

  • Memasang dan mengonfigurasi reverse proxy (nginx, Caddy) dengan terminasi TLS
  • Menerapkan kontrol akses berbasis peran untuk dashboard EXO dan REST API
  • Menggunakan macOS keychain atau Linux pass untuk menyimpan rahasia autentikasi API
  • Membatasi endpoint administratif ke rentang IP sumber tertentu

Isolasi Klaster dan Keamanan Jaringan

  • Segmentasi klaster EXO dengan EXO_LIBP2P_NAMESPACE dan VLAN
  • Mengonfigurasi firewall host (firewall aplikasi macOS, iptables, nftables) untuk port EXO
  • Mencegah penemuan perangkat yang tidak sah dan injeksi node ilegal
  • Mengenkripsi traffic libp2p antar node ketika RDMA tidak tersedia

Tata Kelola Model dan Provenance

  • Membangun registry model internal dengan daftar model yang disetujui dan metadata
  • Menggunakan tag dan penomoran versi untuk bobot kuantisasi (4-bit, 8-bit) bersama checkpoint sumber
  • Menegakkan agar hanya repositori HuggingFace tertentu atau artefak internal yang dapat dimuat
  • Mendokumentasikan lineage model, persyaratan lisensi, serta kebijakan penggunaan yang dapat diterima

Pencatatan Audit dan Kepatuhan

  • Mengonfigurasi forwarding log EXO ke riwayat audit immutable (SIEM, penyimpanan WORM)
  • Mengkorelasikan log panggilan API dengan identitas pengguna dan timestamp
  • Mengambil event pembuatan, penghapusan model instance, dan permintaan inference
  • Menghasilkan laporan kepatuhan berkala untuk auditor internal dan eksternal

Pemodelan Ancaman dan Respons Insiden

  • Identifikasi ancaman: ekstraksi data melalui output model, prompt injection, kebocoran side-channel
  • Menerapkan pipeline pemantauan prompt dan penyaringan konten
  • Membuat runbook respons insiden untuk skenario kompromi klaster
  • Mengisolasi node yang terdampak, mempertahankan log forensik, serta membangun ulang lingkungan bersih

Keamanan Fisik dan Batas Perangkat Keras

  • Mengamankan port Thunderbolt terhadap koneksi kabel RDMA yang tidak sah
  • Menggunakan secure enclaves dan attestation perangkat keras Apple Silicon di mana berlaku
  • Mengendalikan akses fisik ke Mac klaster dan penyimpanan bersama
  • Mendokumentasikan siklus hidup perangkat keras serta prosedur decommissioning

Pertimbangan Regulasi

  • Memetakan penyebaran EXO ke persyaratan GDPR, HIPAA, dan SOC 2
  • Mempertahankan residensi data dengan menjaga inference on-premise
  • Mendokumentasikan risiko rantai pasok vendor (MLX, EXO, bobot model)
  • Menyiapkan diri untuk kerangka tata kelola AI seperti Pasal 53 UU AI Uni Eropa

Persyaratan

  • Pengalaman dengan EXO atau runtime LLM lokal lainnya
  • Pemahaman tentang izin file sistem Unix dan ACL jaringan
  • Kepandaian dalam manajemen sertifikat TLS/SSL dan dasar-dasar enkripsi

Audience

  • Insinyur keamanan
  • Petugas kepatuhan
  • Administrator infrastruktur AI yang menangani data sensitif
 14 Jam

Jumlah Peserta


Harga per Peserta

Testimoni (1)

Kursus Mendatang

Kategori Terkait