Schița de curs

Introducere în Huawei CloudMatrix

  • Ecosistemul CloudMatrix și fluxul de implementare
  • Modele, formate și moduri de implementare acceptate
  • Cazuri de utilizare tipice și procesoare acceptate

Pregătirea Modelelor pentru Implementare

  • Exportul modelelor din instrumente de antrenament (MindSpore, TensorFlow, PyTorch)
  • Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatelor
  • Modele cu formă statică vs dinamică

Implementarea în CloudMatrix

  • Crearea de servicii și înregistrarea modelelor
  • Implementarea serviciilor de inferență prin UI sau CLI
  • Rutare, autentificare și controlul accesului

Servirea Cererilor de Inferență

  • Fluxuri de inferență batch vs în timp real
  • Pipeline-uri de preprocesare și postprocesare a datelor
  • Apelarea serviciilor CloudMatrix din aplicații externe

Monitorizare și Ajustare a Performanței

  • Jurnale de implementare și urmărirea cererilor
  • Scalarea resurselor și echilibrarea sarcinii
  • Ajustarea latenței și optimizarea debitului

Integrare cu Instrumente de Enterprise

  • Conectarea CloudMatrix cu OBS și ModelArts
  • Utilizarea fluxurilor de lucru și a versiunilor modelelor
  • CI/CD pentru implementarea și revenirea modelelor

Pipeline de Inferență de la Un Capăt la Altul

  • Implementarea unui pipeline complet de clasificare a imaginilor
  • Benchmarking și validarea acurateței
  • Simularea failover-ului și a alertelor sistemului

Rezumat și Pași Următori

Cerințe

  • Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
  • Experiență cu cadre de lucru ML bazate pe Python
  • Familiaritate de bază cu conceptele de implementare în cloud

Publicul Țintă

  • Echipe de operare AI
  • Ingineri de învățare automată
  • Specialiști în implementarea cloud care lucrează cu infrastructura Huawei
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite