Course Outline

Pengantar Cambricon dan Arsitektur MLU

  • Ringkasan portofolio chip AI Cambricon
  • Arsitektur MLU dan pipa instruksi
  • Jenis model yang didukung dan kasus penggunaan

Menginstal Toolchain Pengembangan

  • Menginstal BANGPy dan Neuware SDK
  • Pengaturan lingkungan untuk Python dan C++
  • Kompatibilitas model dan pra-pemrosesan

Pengembangan Model dengan BANGPy

  • Struktur tensor dan manajemen bentuk
  • Konstruksi grafik komputasi
  • Dukungan operasi kustom di BANGPy

Mendeploy dengan Neuware Runtime

  • Mengubah dan memuat model
  • Kontrol eksekusi dan inferensi
  • Praktik mendeploy di edge dan pusat data

Otomatisasi Kinerja

  • Pemetaan memori dan penyetelan lapisan
  • Penracing dan profil eksekusi
  • Tambalan umum dan solusinya

Mengintegrasikan MLU ke dalam Aplikasi

  • Menggunakan Neuware API untuk integrasi aplikasi
  • Dukungan streaming dan multi-model
  • Skenario inferensi hybrid CPU-MLU

Proyek End-to-End dan Use Case

  • Laboratorium: Mendeploy model visi atau NLP
  • Inferensi edge dengan integrasi BANGPy
  • Menguji akurasi dan throughput

Ringkasan dan Langkah Selanjutnya

Requirements

  • Pemahaman tentang struktur model machine learning
  • Pengalaman dengan Python dan/atau C++
  • Ketahui konsep deploy dan percepatan model

Audience

  • Developer AI embedded
  • ML engineers yang melakukan deploy ke edge atau datacenter
  • Developer yang bekerja dengan infrastruktur AI China
 21 Hours

Number of participants


Price per participant

Upcoming Courses (Minimal 5 peserta)

Related Categories