Intrati in legatura

Schița de curs

Introducere în Huawei CloudMatrix

  • Ecosistemul CloudMatrix și fluxul de implementare
  • Modele, formate și moduri de implementare acceptate
  • Cazuri de utilizare tipice și chipset-uri acceptate

Pregătirea Modelelor pentru Implementare

  • Exportul modelelor din instrumente de antrenament (MindSpore, TensorFlow, PyTorch)
  • Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatului
  • Modele cu formă statică vs dinamică

Implementarea în CloudMatrix

  • Crearea de servicii și înregistrarea modelelor
  • Implementarea serviciilor de inferență prin UI sau CLI
  • Rutare, autentificare și controlul accesului

Servirea Cererilor de Inferență

  • Fluxuri de inferență în loturi vs în timp real
  • Pipeline-uri de preprocesare și postprocesare a datelor
  • Apelarea serviciilor CloudMatrix din aplicații externe

Monitorizarea și Optimizarea Performanței

  • Loguri de implementare și urmărirea cererilor
  • Scalarea resurselor și echilibrarea încărcării
  • Ajustarea latenței și optimizarea debitului

Integrarea cu Instrumente de Enterprise

  • Conectarea CloudMatrix cu OBS și ModelArts
  • Utilizarea fluxurilor de lucru și a versiunilor modelelor
  • CI/CD pentru implementarea și revenirea modelelor

Pipeline de Inferență de la un Capăt la Altul

  • Implementarea unui pipeline complet de clasificare a imaginilor
  • Testarea și validarea preciziei
  • Simularea failover-ului și a alertelor de sistem

Rezumat și Pași Următori

Cerințe

  • Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
  • Experiență cu framework-uri ML bazate pe Python
  • Familiaritate de bază cu conceptele de implementare în cloud

Publicul țintă

  • Echipe de operare AI
  • Ingineri de învățare automată
  • Specialiști în implementare cloud care lucrează cu infrastructura Huawei
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (2)

Cursuri viitoare

Categorii înrudite