Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Durasi 14 jam
Kerangka Materi
Pengenalan Pengembangan Operator Kustom
- Mengapa membangun operator kustom? Kasus penggunaan dan batasan
- Struktur runtime CANN dan titik integrasi operator
- Ringkasan TBE, TIK, dan TVM dalam ekosistem AI Huawei
Menggunakan TIK untuk Pemrograman Operator Level Rendah
- Memahami model pemrograman TIK dan API yang didukung
- Manajemen memori dan strategi tiling di TIK
- Membuat, mengompilasi, dan mendaftarkan operator kustom dengan CANN
Pengujian dan Validasi Operator Kustom
- Pengujian unit dan pengujian integrasi operator di graf
- Pengujian masalah kinerja level kernel
- Visualisasi eksekusi operator dan perilaku buffer
Penjadwalan dan Optimasi Berbasis TVM
- Ringkasan TVM sebagai kompilator untuk operator tensor
- Menulis jadwal untuk operator kustom di TVM
- Penyetelan TVM, benchmarking, dan pembuatan kode untuk Ascend
Integrasi dengan Framework dan Model
- Mendaftarkan operator kustom untuk MindSpore dan ONNX
- Memverifikasi integritas model dan perilaku fallback
- Mendukung graf multi-operator dengan presisi campuran
Studi Kasus dan Optimasi Khusus
- Studi kasus: konvolusi efisien untuk bentuk input kecil
- Studi kasus: optimasi operator attention yang sadar memori
- Praktik terbaik dalam pengerahan operator kustom lintas perangkat
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Pengetahuan kuat tentang internal model AI dan komputasi level operator
- Pengalaman dengan lingkungan pengembangan Python dan Linux
- Kemahiran dengan kompilator jaringan saraf atau pengoptimal level graf
Audience
- Insinyur kompilator yang bekerja pada toolchain AI
- Pengembang sistem yang berfokus pada optimasi AI level rendah
- Pengembang yang membangun operator kustom atau menargetkan beban kerja AI baru
