Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Pengenalan Pengembangan Operator Kustom
- Mengapa membangun operator kustom? Kasus penggunaan dan batasan
- Struktur runtime CANN dan titik integrasi operator
- Tinjauan TBE, TIK, dan TVM dalam ekosistem AI Huawei
Menggunakan TIK untuk Operator Tingkat Rendah Programming
- Memahami model pemrograman TIK dan API yang didukung
- Manajemen memori dan strategi tiling dalam TIK
- Membuat, mengompilasi, dan mendaftarkan operator kustom dengan CANN
Pengujian dan Validasi Operator Kustom
- Pengujian unit dan pengujian integrasi operator dalam grafik
- Memperbaiki masalah kinerja tingkat kernel
- Memvisualisasikan eksekusi operator dan perilaku buffer
Penjadwalan dan Optimasi Berbasis TVM
- Tinjauan TVM sebagai kompilator untuk operasi tensor
- Menulis penjadwalan untuk operator kustom dalam TVM
- Penyesuaian, pengukuran, dan pembangkitan kode TVM untuk Ascend
Integrasi dengan Kerangka dan Model
- Mendaftarkan operator kustom untuk MindSpore dan ONNX
- Memverifikasi integritas model dan perilaku fallback
- Mendukung grafik multi-operator dengan presisi campuran
Studi Kasus dan Optimasi Terkhusus
- Studi kasus: konvolusi efisien tinggi untuk bentuk masukan kecil
- Studi kasus: optimasi operator perhatian yang mempertimbangkan memori
- Best practice dalam pelaksanaan operator kustom di berbagai perangkat
Ringkasan dan Langkah Selanjutnya
Persyaratan
- Pengetahuan yang kuat tentang internal model AI dan komputasi tingkat operator
- Pengalaman dengan lingkungan pengembangan Python dan Linux
- Kenalan dengan kompilator jaringan saraf atau optimisasi tingkat graf
Pemirsa
- Insinyur kompilator yang bekerja pada rantai alat AI
- Pengembang sistem yang berfokus pada optimasi AI tingkat rendah
- Pengembang yang membangun ops khusus atau menargetkan beban kerja AI yang baru
14 Jam
