Intrati in legatura

Schița de curs

Introducere în Dezvoltarea Operatorilor Personalizați

  • De ce să construim operatori personalizați? Cazuri de utilizare și constrângeri
  • Structura runtime-ului CANN și punctele de integrare a operatorilor
  • Prezentare generală a TBE, TIK și TVM în ecosistemul Huawei AI

Utilizarea TIK pentru Programarea Operatorilor la Nivel Scăzut

  • Înțelegerea modelului de programare TIK și a API-urilor suportate
  • Gestionarea memoriei și strategia de tiling în TIK
  • Crearea, compilarea și înregistrarea unui operator personalizat în CANN

Testarea și Validarea Operatorilor Personalizați

  • Testarea unitară și testarea de integrare a operatorilor în graf
  • Depanarea problemelor de performanță la nivel de kernel
  • Vizualizarea execuției operatorilor și a comportamentului bufferelor

Programarea și Optimizarea Bazate pe TVM

  • Prezentare generală a TVM ca compilator pentru operatori tensoriali
  • Scrierea unui program pentru un operator personalizat în TVM
  • Ajustarea, benchmarking-ul și generarea de cod în TVM pentru Ascend

Integrarea cu Framework-uri și Modele

  • Înregistrarea operatorilor personalizați pentru MindSpore și ONNX
  • Verificarea integrității modelului și a comportamentului de fallback
  • Suportarea grafurilor cu mai mulți operatori cu precizie mixtă

Studii de Caz și Optimizări Specializate

  • Studiu de caz: convoluție de înaltă eficiență pentru forme de intrare mici
  • Studiu de caz: optimizarea operatorului de atenție bazată pe memorie
  • Cele mai bune practici în implementarea operatorilor personalizați pe diferite dispozitive

Rezumat și Pași Următori

Cerințe

  • Cunoștințe solide despre structura internă a modelelor AI și calculul la nivel de operator
  • Experiență în medii de dezvoltare Python și Linux
  • Familiaritate cu compilatoare de rețele neuronale sau optimizări la nivel de graf

Publicul Țintă

  • Ingineri de compilatoare care lucrează la toolchain-uri AI
  • Dezvoltatori de sisteme concentrați pe optimizări AI de nivel scăzut
  • Dezvoltatori care construiesc operatori personalizați sau care lucrează la sarcini AI inovatoare
 14 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite