Course Outline

Pengantar ke Huawei CloudMatrix

  • Ekosistem dan alur deplorasi CloudMatrix
  • Model, format, dan mode deplorasi yang didukung
  • Kasus penggunaan tipe dan chip yang didukung

Mempersiapkan Model untuk Dideploy

  • Eksport model dari alat pelatihan (MindSpore, TensorFlow, PyTorch)
  • Menggunakan ATC (Ascend Tensor Compiler) untuk konversi format
  • Model bentuk statis vs dinamis

Deploying ke CloudMatrix

  • Pembuatan layanan dan registrasi model
  • Mem-deploy layanan inferensi melalui UI atau CLI
  • Routing, autentikasi, dan kontrol akses

Melayani Permintaan Inferensi

  • Alur inferensi batch vs real-time
  • Pipa pra-pemrosesan dan pasca-pemrosesan data
  • Mengakses layanan CloudMatrix dari aplikasi eksternal

Pemantauan dan Pengaturan Kinerja

  • Log deplorasi dan pelacakan permintaan
  • Skalabilitas sumber daya dan balancing beban
  • Tuning latensi dan optimasi throughput

Integrasi dengan Alat Perusahaan

  • Menghubungkan CloudMatrix dengan OBS dan ModelArts
  • Menggunakan workflow dan versi model
  • CI/CD untuk deplorasi dan rollback model

Pipa Inferensi Berbasis Akhir ke Awal

  • Mem-deploy pipa pengklasifikasian gambar lengkap
  • Benchmarking dan validasi akurasi
  • Meniru failover dan alert sistem

Ringkasan dan Langkah Selanjutnya

Requirements

  • Pemahaman tentang alur kerja pelatihan model AI
  • Pengalaman dengan kerangka kerja ML berbasis Python
  • Ketahui dasar-dasar konsep penyediaan cloud

Audience

  • Tim AI ops
  • Inginjur mesin pembelajaran
  • Spesialis penyediaan cloud yang bekerja dengan infrastruktur Huawei
 21 Hours

Number of participants


Price per participant

Testimonials (1)

Upcoming Courses (Minimal 5 peserta)

Related Categories