Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Introducere în Dezvoltarea Operatorilor Personalizați
- De ce să construim operatori personalizați? Cazuri de utilizare și constrângeri
- Structura runtime-ului CANN și punctele de integrare a operatorilor
- Prezentare generală a TBE, TIK și TVM în ecosistemul Huawei AI
Utilizarea TIK pentru Programarea Operatorilor la Nivel Scăzut
- Înțelegerea modelului de programare TIK și a API-urilor suportate
- Gestionarea memoriei și strategia de tiling în TIK
- Crearea, compilarea și înregistrarea unui operator personalizat în CANN
Testarea și Validarea Operatorilor Personalizați
- Testarea unitară și testarea de integrare a operatorilor în graf
- Depanarea problemelor de performanță la nivel de kernel
- Vizualizarea execuției operatorilor și a comportamentului bufferelor
Programarea și Optimizarea Bazate pe TVM
- Prezentare generală a TVM ca compilator pentru operatori tensoriali
- Scrierea unui program pentru un operator personalizat în TVM
- Ajustarea, benchmarking-ul și generarea de cod în TVM pentru Ascend
Integrarea cu Framework-uri și Modele
- Înregistrarea operatorilor personalizați pentru MindSpore și ONNX
- Verificarea integrității modelului și a comportamentului de fallback
- Suportarea grafurilor cu mai mulți operatori cu precizie mixtă
Studii de Caz și Optimizări Specializate
- Studiu de caz: convoluție de înaltă eficiență pentru forme de intrare mici
- Studiu de caz: optimizarea operatorului de atenție bazată pe memorie
- Cele mai bune practici în implementarea operatorilor personalizați pe diferite dispozitive
Rezumat și Pași Următori
Cerințe
- Cunoștințe solide despre structura internă a modelelor AI și calculul la nivel de operator
- Experiență în medii de dezvoltare Python și Linux
- Familiaritate cu compilatoare de rețele neuronale sau optimizări la nivel de graf
Publicul Țintă
- Ingineri de compilatoare care lucrează la toolchain-uri AI
- Dezvoltatori de sisteme concentrați pe optimizări AI de nivel scăzut
- Dezvoltatori care construiesc operatori personalizați sau care lucrează la sarcini AI inovatoare
14 Ore