Intrati in legatura

Schița de curs

Introducere în Huawei CloudMatrix

  • Ecosistemul CloudMatrix și fluxul de deployment
  • Modele, formate și moduri de deployment suportate
  • Cazuri de utilizare tipice și chipset-uri suportate

Pregătirea modelelor pentru deployment

  • Exportul modelelor din instrumentele de training (MindSpore, TensorFlow, PyTorch)
  • Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatului
  • Modele cu forme statice vs. dinamice

Deployment pe CloudMatrix

  • Crearea serviciilor și înregistrarea modelelor
  • Deployment-ul serviciilor de inferență prin UI sau CLI
  • Rutare, autentificare și control al accesului

Servirea cererilor de inferență

  • Fluxuri de inferență în batch vs. în timp real
  • Pipeline-uri de preprocesare și postprocesare a datelor
  • Apelarea serviciilor CloudMatrix din aplicații externe

Monitorizare și optimizarea performanței

  • Log-uri de deployment și urmărirea cererilor
  • Scalarea resurselor și load balancing
  • Ajustarea latenței și optimizarea throughput-ului

Integrarea cu instrumente enterprise

  • Conectarea CloudMatrix cu OBS și ModelArts
  • Utilizarea workflow-urilor și versionării modelelor
  • CI/CD pentru deployment-ul și rollback-ul modelelor

Pipeline de inferență end-to-end

  • Deployment-ul unui pipeline complet de clasificare a imaginilor
  • Benchmarking și validarea acurateței
  • Simularea failover-ului și alertelor de sistem

Rezumat și pașii următori

Cerințe

  • Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
  • Experiență cu framework-uri ML bazate pe Python
  • Familiaritate de bază cu conceptele de deployment în cloud

Public țintă

  • Echipe de AI ops
  • Ingineri de machine learning
  • Specialiști în deployment în cloud care lucrează cu infrastructura Huawei
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite