Cursuri de pregatire Inferență și Implementare AI cu CloudMatrix
CloudMatrix este platforma unificată Huawei pentru dezvoltarea și implementarea AI, proiectată pentru a susține pipeline-uri scalabile de inferență de nivel producție.
Această instruire condusă de un instructor, live (online sau la fața locului), este destinată profesioniștilor AI de la nivel începător la intermediar care doresc să implementeze și să monitorizeze modele AI utilizând platforma CloudMatrix cu integrarea CANN și MindSpore.
La finalul acestei instruiri, participanții vor putea:
- Să utilizeze CloudMatrix pentru ambalarea, implementarea și servirea modelelor.
- Să convertească și să optimizeze modele pentru procesoarele Ascend.
- Să configureze pipeline-uri pentru sarcini de inferență în timp real și batch.
- Să monitorizeze implementările și să ajusteze performanța în medii de producție.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a CloudMatrix cu scenarii reale de implementare.
- Exerciții ghidate axate pe conversie, optimizare și scalare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o instruire personalizată pentru acest curs bazată pe infrastructura AI sau mediul dumneavoastră de cloud, vă rugăm să ne contactați pentru a aranja.
Schița de curs
Introducere în Huawei CloudMatrix
- Ecosistemul CloudMatrix și fluxul de implementare
- Modele, formate și moduri de implementare acceptate
- Cazuri de utilizare tipice și procesoare acceptate
Pregătirea Modelelor pentru Implementare
- Exportul modelelor din instrumente de antrenament (MindSpore, TensorFlow, PyTorch)
- Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatelor
- Modele cu formă statică vs dinamică
Implementarea în CloudMatrix
- Crearea de servicii și înregistrarea modelelor
- Implementarea serviciilor de inferență prin UI sau CLI
- Rutare, autentificare și controlul accesului
Servirea Cererilor de Inferență
- Fluxuri de inferență batch vs în timp real
- Pipeline-uri de preprocesare și postprocesare a datelor
- Apelarea serviciilor CloudMatrix din aplicații externe
Monitorizare și Ajustare a Performanței
- Jurnale de implementare și urmărirea cererilor
- Scalarea resurselor și echilibrarea sarcinii
- Ajustarea latenței și optimizarea debitului
Integrare cu Instrumente de Enterprise
- Conectarea CloudMatrix cu OBS și ModelArts
- Utilizarea fluxurilor de lucru și a versiunilor modelelor
- CI/CD pentru implementarea și revenirea modelelor
Pipeline de Inferență de la Un Capăt la Altul
- Implementarea unui pipeline complet de clasificare a imaginilor
- Benchmarking și validarea acurateței
- Simularea failover-ului și a alertelor sistemului
Rezumat și Pași Următori
Cerințe
- Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
- Experiență cu cadre de lucru ML bazate pe Python
- Familiaritate de bază cu conceptele de implementare în cloud
Publicul Țintă
- Echipe de operare AI
- Ingineri de învățare automată
- Specialiști în implementarea cloud care lucrează cu infrastructura Huawei
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Inferență și Implementare AI cu CloudMatrix - Rezervare
Cursuri de pregatire Inferență și Implementare AI cu CloudMatrix - Solicitare
Inferență și Implementare AI cu CloudMatrix - Cerere de consultanta
Mărturii (1)
Formare paș cu paș, cu multe exerciții. A fost ca un atelier și sunt foarte bucuros de aceea.
Ireneusz - Inter Cars S.A.
Curs - Intelligent Applications Fundamentals
Tradus de catre o masina
Cursuri viitoare
Cursuri înrudite
Dezvoltarea Aplicațiilor AI cu Huawei Ascend și CANN
21 OreHuawei Ascend este o familie de procesoare AI proiectate pentru inferență și antrenament de înaltă performanță.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată inginerilor AI și oamenilor de știință de date de nivel intermediar care doresc să dezvolte și să optimizeze modele de rețele neuronale folosind platforma Huawei Ascend și toolkit-ul CANN.
La finalul acestei formări, participanții vor putea:
- Să configureze și să seteze mediul de dezvoltare CANN.
- Să dezvolte aplicații AI folosind fluxurile de lucru MindSpore și CloudMatrix.
- Să optimizeze performanța pe NPU-urile Ascend folosind operatori personalizați și tiling.
- Să implementeze modele în medii de tip edge sau cloud.
Formatul Cursului
- Prezentare interactivă și discuții.
- Utilizare practică a platformei Huawei Ascend și a toolkit-ului CANN în aplicații exemplu.
- Exerciții ghidate axate pe construirea, antrenarea și implementarea modelelor.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o formare personalizată pentru acest curs bazată pe infrastructura sau seturile de date ale dumneavoastră, vă rugăm să ne contactați pentru a aranja.
Implementarea Modelelor de AI cu CANN și Procesoarele Ascend AI
14 OreCANN (Compute Architecture for Neural Networks) este stack-ul de calcul AI al Huawei pentru implementarea și optimizarea modelelor de AI pe procesoarele Ascend AI.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor și inginerilor de AI de nivel intermediar care doresc să implementeze modele de AI antrenate eficient pe hardware-ul Huawei Ascend folosind toolkit-ul CANN și unelte precum MindSpore, TensorFlow sau PyTorch.
La sfârșitul acestui training, participanții vor putea:
- Să înțeleagă arhitectura CANN și rolul său în pipeline-ul de implementare a AI.
- Să convertească și să adapteze modele din framework-uri populare la formate compatibile cu Ascend.
- Să folosească unelte precum ATC, conversia de modele OM și MindSpore pentru inferență la margine și în cloud.
- Să diagnosticheze probleme de implementare și să optimizeze performanța pe hardware-ul Ascend.
Formatul Cursului
- Prezentare interactivă și demonstrație.
- Lucrări practice în laborator folosind unelte CANN și simulatoare sau dispozitive Ascend.
- Scenarii practice de implementare bazate pe modele de AI din lumea reală.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Fundamentele Ingineriei AI
14 OreAceastă instruire condusă de un instructor, în format live în Moldova (online sau la fața locului), este destinată inginerilor AI și dezvoltatorilor de software de la nivel începător până la intermediar, care doresc să dobândească o înțelegere fundamentală a principiilor și practicilor de inginerie AI.
La sfârșitul acestei instruiri, participanții vor putea:
- Înțelege conceptele și tehnologiile de bază din spatele inteligenței artificiale și învățării automate.
- Implementa modele de bază de învățare automată folosind TensorFlow și PyTorch.
- Aplica tehnici AI pentru a rezolva probleme practice în dezvoltarea de software.
- Gestiona și menține proiecte AI folosind cele mai bune practici în inginerie AI.
- Recunoaște implicațiile etice și responsabilitățile implicate în dezvoltarea sistemelor AI.
Programare GPU pe Acceleratoarele AI Biren
21 OreAcceleratoarele AI Biren sunt GPU-uri de înaltă performanță proiectate pentru sarcini de AI și HPC, cu suport pentru antrenament și inferență la scară largă.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor de nivel intermediar și avansat care doresc să programeze și să optimizeze aplicații folosind stack-ul GPU proprietar Biren, cu comparații practice față de mediile bazate pe CUDA.
La sfârșitul acestui training, participanții vor putea:
- Să înțeleagă arhitectura GPU Biren și ierarhia memoriei.
- Să configureze mediul de dezvoltare și să folosească modelul de programare Biren.
- Să traducă și să optimizeze cod în stil CUDA pentru platformele Biren.
- Să aplice tehnici de reglare a performanței și de depanare.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a SDK-ului Biren în sarcini GPU de exemplu.
- Exerciții ghidate axate pe portare și reglarea performanței.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe stack-ul dvs. de aplicații sau nevoile de integrare, vă rugăm să ne contactați pentru a aranja.
Construirea Aplicațiilor Inteligente cu AI și ML
28 OreAceastă formare condusă de un instructor, live în Moldova (online sau la fața locului) este destinată profesioniștilor și dezvoltatorilor de software de nivel intermediar până la avansat, care doresc să construiască aplicații inteligente folosind AI și ML.
La finalul acestei formări, participanții vor putea:
- Să înțeleagă conceptele și tehnologiile avansate din spatele AI și ML.
- Să analizeze și să vizualizeze date pentru a informa dezvoltarea modelelor AI/ML.
- Să construiască, să antreneze și să implementeze modele AI/ML în mod eficient.
- Să creeze aplicații inteligente care să rezolve probleme din lumea reală.
- Să evalueze implicațiile etice ale aplicațiilor AI în diverse industrii.
Introducere în CANN pentru Dezvoltatori de Framework-uri AI
7 OreCANN (Compute Architecture for Neural Networks) este un set de instrumente de calcul AI dezvoltat de Huawei, utilizat pentru compilarea, optimizarea și implementarea modelelor AI pe procesoarele Ascend AI.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor AI de nivel începător care doresc să înțeleagă cum se integrează CANN în ciclul de viață al modelului, de la antrenament la implementare, și cum funcționează împreună cu framework-uri precum MindSpore, TensorFlow și PyTorch.
La finalul acestui training, participanții vor putea:
- Înțelege scopul și arhitectura setului de instrumente CANN.
- Să configureze un mediu de dezvoltare cu CANN și MindSpore.
- Să convertească și să implementeze un model AI simplu pe hardware-ul Ascend.
- Să dobândească cunoștințe de bază pentru viitoare proiecte de optimizare sau integrare CANN.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu implementarea unui model simplu.
- Parcurgere pas cu pas a lanțului de instrumente CANN și a punctelor de integrare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN pentru Implementarea AI la Marginea Rețelei
14 OreSetul de instrumente Huawei Ascend CANN permite efectuarea de inferențe AI puternice pe dispozitive de margine, cum ar fi Ascend 310. CANN oferă instrumente esențiale pentru compilarea, optimizarea și implementarea modelelor în medii cu resurse de calcul și memorie limitate.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată dezvoltatorilor și integratorilor AI de nivel intermediar care doresc să implementeze și să optimizeze modele pe dispozitive de margine Ascend folosind lanțul de instrumente CANN.
La finalul acestei formări, participanții vor putea:
- Pregăti și converti modele AI pentru Ascend 310 folosind instrumentele CANN.
- Construi pipeline-uri de inferență ușoare folosind MindSpore Lite și AscendCL.
- Optimiza performanța modelelor pentru medii cu resurse de calcul și memorie limitate.
- Implementa și monitoriza aplicații AI în cazuri de utilizare reală la marginea rețelei.
Formatul Cursului
- Prezentare interactivă și demonstrație.
- Lucrări practice în laborator cu modele și scenarii specifice marginii.
- Exemple live de implementare pe hardware virtual sau fizic de margine.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Înțelegerea Stivei de Calcul AI a Huawei: De la CANN la MindSpore
14 OreStiva AI a Huawei — de la SDK-ul de nivel scăzut CANN până la framework-ul de nivel înalt MindSpore — oferă un mediu integrat de dezvoltare și implementare AI, optimizat pentru hardware-ul Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor tehnici de la nivel începător până la intermediar care doresc să înțeleagă cum componentele CANN și MindSpore lucrează împreună pentru a sprijini gestionarea ciclului de viață AI și deciziile de infrastructură.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura stratificată a stivei de calcul AI a Huawei.
- Identifica cum CANN sprijină optimizarea modelelor și implementarea la nivel de hardware.
- Evaluează framework-ul și lanțul de instrumente MindSpore în raport cu alternativele din industrie.
- Poziționează stiva AI a Huawei în mediile de întreprindere sau cloud/on-prem.
Formatul Cursului
- Prelegere interactivă și discuții.
- Demo-uri live ale sistemului și prezentări bazate pe cazuri.
- Laboratoare opționale ghidate pe fluxul modelelor de la MindSpore la CANN.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Optimizarea Performanței Rețelelor Neuronale cu CANN SDK
14 OreCANN SDK (Compute Architecture for Neural Networks) este fundamentul de calcul AI al Huawei, care permite dezvoltatorilor să regleze fin și să optimizeze performanța rețelelor neuronale implementate pe procesoarele Ascend AI.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor AI de nivel avansat și inginerilor de sistem care doresc să optimizeze performanța de inferență folosind setul avansat de instrumente CANN, inclusiv Graph Engine, TIK și dezvoltarea de operatori personalizați.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura runtime a CANN și ciclul de viață al performanței.
- Folosi instrumente de profilare și Graph Engine pentru analiza și optimizarea performanței.
- Crea și optimiza operatori personalizați folosind TIK și TVM.
- Rezolva gâturile de gură de memorie și îmbunătăți debitul modelului.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu profilare în timp real și reglare a operatorilor.
- Exerciții de optimizare folosind exemple de implementare în cazuri limită.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN SDK pentru Pipe-uri de Visionare Computerizată și NLP
14 OreCANN SDK (Compute Architecture for Neural Networks) oferă instrumente puternice de implementare și optimizare pentru aplicații AI în timp real în domeniile visionării computerizate și NLP, în special pe hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat practicienilor AI de nivel intermediar care doresc să construiască, să implementeze și să optimizeze modele de visionare și limbaj folosind CANN SDK pentru cazuri de utilizare în producție.
La finalul acestui training, participanții vor putea:
- Să implementeze și să optimizeze modele CV și NLP folosind CANN și AscendCL.
- Să folosească instrumentele CANN pentru a converti modele și a le integra în pipe-uri live.
- Să optimizeze performanța de inferență pentru sarcini precum detectarea, clasificarea și analiza sentimentelor.
- Să construiască pipe-uri CV/NLP în timp real pentru scenarii de implementare la margine sau în cloud.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Laborator practic cu implementarea modelelor și profilarea performanței.
- Proiectarea pipe-urilor live folosind cazuri reale de CV și NLP.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Construirea operatorilor AI personalizați cu CANN TIK și TVM
14 OreCANN TIK (Tensor Instruction Kernel) și Apache TVM permit optimizarea și personalizarea avansată a operatorilor de modele AI pentru hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor de sisteme de nivel avansat care doresc să construiască, să implementeze și să ajusteze operatori personalizați pentru modele AI folosind modelul de programare TIK al CANN și integrarea compilatorului TVM.
La finalul acestui training, participanții vor putea:
- Scrie și testează operatori AI personalizați folosind TIK DSL pentru procesoarele Ascend.
- Integrează operatori personalizați în runtime-ul CANN și graful de execuție.
- Folosește TVM pentru planificarea operatorilor, auto-ajustarea și benchmarking.
- Depanează și optimizează performanța la nivel de instrucțiuni pentru modele de calcul personalizate.
Formatul cursului
- Curs interactiv și demonstrații.
- Scrierea de cod pentru operatori folosind pipeline-urile TIK și TVM.
- Testare și ajustare pe hardware-ul Ascend sau simulatoare.
Opțiuni de personalizare a cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Migrarea Aplicațiilor CUDA pe Arhitecturi GPU Chinezești
21 OreArhitecturile GPU chinezești, cum ar fi Huawei Ascend, Biren și Cambricon MLU, oferă alternative la CUDA adaptate pentru piețele locale de AI și HPC.
Acest training condus de un instructor, live (online sau la fața locului), este destinat programatorilor avansați de GPU și specialiștilor în infrastructură care doresc să migreze și să optimizeze aplicațiile CUDA existente pentru implementare pe platforme hardware chinezești.
La sfârșitul acestui training, participanții vor putea:
- Evalua compatibilitatea sarcinilor de lucru CUDA existente cu alternativele de cipuri chinezești.
- Porta baze de cod CUDA în mediile Huawei CANN, Biren SDK și Cambricon BANGPy.
- Compara performanța și identifica punctele de optimizare pe diferite platforme.
- Aborda provocări practice în sprijinul și implementarea inter-arhitectură.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice de traducere a codului și comparare a performanței.
- Exerciții ghidate axate pe strategii de adaptare multi-GPU.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe platforma sau proiectul dvs. CUDA, vă rugăm să ne contactați pentru a aranja.
Fundamentele Aplicațiilor Inteligente
14 OreAcest training condus de un instructor, live în Moldova (online sau la fața locului) este destinat profesioniștilor IT de nivel începător care doresc să înțeleagă elementele de bază ale aplicațiilor inteligente și modul în care acestea pot fi aplicate în diverse industrii.
La sfârșitul acestui training, participanții vor fi capabili să:
- Înțeleagă istoria, principiile și impactul inteligenței artificiale.
- Identifice și aplice diferite algoritmi de învățare automată.
- Gestioneze și analizeze datele eficient pentru aplicațiile de IA.
- Recunoască aplicațiile practice și limitările IA în diferite sectoare.
- Discute despre considerațiile etice și implicațiile sociale ale tehnologiei IA.
Aplicații Inteligente Avansate
21 OreAcest training condus de un instructor, live în Moldova (online sau la fața locului) este destinat specialiștilor în știința datelor, inginerilor și practicienilor AI de nivel intermediar până la avansat, care doresc să stăpânească complexitatea aplicațiilor inteligente și să le utilizeze pentru a rezolva probleme complexe din lumea reală.
La sfârșitul acestui training, participanții vor putea:
- Să implementeze și să analizeze arhitecturi de învățare profundă.
- Să aplice învățarea automată la scară într-un mediu de calcul distribuit.
- Să proiecteze și să execute modele de învățare prin întărire pentru luarea deciziilor.
- Să dezvolte sisteme sofisticate de procesare a limbajului natural pentru înțelegerea limbajului.
- Să utilizeze tehnici de visionare computerizată pentru analiza imaginilor și a videoclipurilor.
- Să abordeze considerațiile etice în dezvoltarea și implementarea sistemelor AI.
Optimizarea Performanțelor pe Ascend, Biren și Cambricon
21 OreAscend, Biren și Cambricon sunt platforme hardware de top pentru AI în China, fiecare oferind instrumente unice de accelerare și profiling pentru sarcini de AI la scară de producție.
Acest training condus de un instructor, live (online sau la fața locului), este destinat inginerilor avansați de infrastructură și performanță AI care doresc să optimizeze fluxurile de lucru de inferență și antrenare a modelelor pe mai multe platforme de cipuri AI din China.
La finalul acestui training, participanții vor putea:
- Să realizeze benchmark-uri ale modelelor pe platformele Ascend, Biren și Cambricon.
- Să identifice punctele de blocare ale sistemului și ineficiențele de memorie/calcul.
- Să aplice optimizări la nivel de graf, kernel și operator.
- Să ajusteze pipeline-urile de implementare pentru a îmbunătăți debitul și latența.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a instrumentelor de profiling și optimizare pe fiecare platformă.
- Exerciții ghidate axate pe scenarii practice de ajustare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, bazat pe mediul dvs. de performanță sau tipul de model, vă rugăm să ne contactați pentru a aranja.