Terima kasih telah mengirimkan pertanyaan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Terima kasih telah mengirimkan pemesanan Anda! Salah satu anggota tim kami akan segera menghubungi Anda.
Kerangka Materi
Pengantar Pengembangan Operator Kustom
- Alasan pentingnya membangun operator kustom: kasus penggunaan serta batasan yang ada
- Struktur runtime CANN beserta titik integrasi untuk berbagai operator
- Gambaran umum tentang TBE, TIK, dan TVM dalam ekosistem AI Huawei
Memanfaatkan TIK untuk Pemrograman Operator Tingkat Rendah
- Memahami model pemrograman TIK beserta API yang tersedia
- Strategi manajemen memori serta pembagian area komputasi dalam konteks TIK
- Membuat, mengompilasi, dan mendaftarkan operator baru ke dalam sistem CANN
Pengujian serta Validasi Operator yang Dibuat
- Proses pengujian unit dan integrasi operator pada konteks grafik komputasi
- Teknik pendeteksian masalah kinerja di tingkat kernel
- Visualisasi alur eksekusi operator beserta perilaku penggunaan buffer memori
Penjadwalan dan Optimasi Menggunakan TVM
- Gambaran umum tentang fungsi TVM sebagai kompiler operator tensor
- Menyusun rencana eksekusi untuk operator baru dengan perangkat lunak TVM
- Proses penyetelan parameter, pengujian performa, dan penghasilan kode komputasi khusus untuk platform Ascend
Integrasi dengan Framework serta Model AI lainnya
- Mendaftarkan operator kustom ke dalam lingkungan MindSpore maupun format ONNX
- Menjamin kelangsungan operasi model serta mekanisme fallback jika terjadi masalah
- Memastikan dukungan optimal pada grafik yang memuat berbagai operator dengan presisi perhitungan berbeda-beda
Studi Kasus dan Optimasi Spesifik
- Contoh praktik: optimasi konvolusi efisien bagi ukuran data input yang relatif kecil
- Studi lainnya: penyempurnaan kinerja operator perhatian dengan mempertimbangkan batas penggunaan memori
- Panduan terbaik untuk implementasi operator kustom secara efektif pada berbagai tipe perangkat keras
Kesimpulan dan Arah Pengembangan Selanjutnya
Persyaratan
- Pemahaman mendalam mengenai mekanisme internal model AI serta operasi komputasi tingkat operator
- Pengalaman dalam pengembangan perangkat lunak dengan Python dan lingkungan Linux
- Pengetahuan tentang kompiler jaringan saraf atau alat optimasi pada tingkat grafik
Target Peserta
- Insinyur kompiler yang menangani pengembangan alat bantu AI
- Pengembang sistem yang berfokus pada optimasi performa komputasi tingkat rendah dalam konteks AI
- Para pengembang yang membuat operator kustom atau menggarap beban kerja komputasi AI yang unik
14 Jam
