Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Introducere în Huawei CloudMatrix
- Ecosistemul CloudMatrix și fluxul de deployment
- Modele, formate și moduri de deployment suportate
- Cazuri de utilizare tipice și chipset-uri suportate
Pregătirea modelelor pentru deployment
- Exportul modelelor din instrumentele de training (MindSpore, TensorFlow, PyTorch)
- Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatului
- Modele cu forme statice vs. dinamice
Deployment pe CloudMatrix
- Crearea serviciilor și înregistrarea modelelor
- Deployment-ul serviciilor de inferență prin UI sau CLI
- Rutare, autentificare și control al accesului
Servirea cererilor de inferență
- Fluxuri de inferență în batch vs. în timp real
- Pipeline-uri de preprocesare și postprocesare a datelor
- Apelarea serviciilor CloudMatrix din aplicații externe
Monitorizare și optimizarea performanței
- Log-uri de deployment și urmărirea cererilor
- Scalarea resurselor și load balancing
- Ajustarea latenței și optimizarea throughput-ului
Integrarea cu instrumente enterprise
- Conectarea CloudMatrix cu OBS și ModelArts
- Utilizarea workflow-urilor și versionării modelelor
- CI/CD pentru deployment-ul și rollback-ul modelelor
Pipeline de inferență end-to-end
- Deployment-ul unui pipeline complet de clasificare a imaginilor
- Benchmarking și validarea acurateței
- Simularea failover-ului și alertelor de sistem
Rezumat și pașii următori
Cerințe
- Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
- Experiență cu framework-uri ML bazate pe Python
- Familiaritate de bază cu conceptele de deployment în cloud
Public țintă
- Echipe de AI ops
- Ingineri de machine learning
- Specialiști în deployment în cloud care lucrează cu infrastructura Huawei
21 Ore
Mărturii (1)
Stilul deschis si cald al trainerului, limbajul accesibil.