Curs de pregatire Inferență și Implementare AI cu CloudMatrix
CloudMatrix este platforma unificată de dezvoltare și implementare AI a Huawei, proiectată pentru a susține pipeline-uri de inferență scalabile și de nivel de producție.
Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor AI de la nivel începător până la intermediar, care doresc să implementeze și să monitorizeze modele AI folosind platforma CloudMatrix cu integrarea CANN și MindSpore.
La finalul acestui training, participanții vor putea:
- Să utilizeze CloudMatrix pentru ambalarea, implementarea și servirea modelelor.
- Să convertească și să optimizeze modele pentru chipset-uri Ascend.
- Să configureze pipeline-uri pentru sarcini de inferență în timp real și în loturi.
- Să monitorizeze implementările și să ajusteze performanța în medii de producție.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a CloudMatrix cu scenarii reale de implementare.
- Exerciții ghidate axate pe conversie, optimizare și scalare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, bazat pe infrastructura AI sau mediul dumneavoastră cloud, vă rugăm să ne contactați pentru a aranja.
Schița de curs
Introducere în Huawei CloudMatrix
- Ecosistemul CloudMatrix și fluxul de implementare
- Modele, formate și moduri de implementare acceptate
- Cazuri de utilizare tipice și chipset-uri acceptate
Pregătirea Modelelor pentru Implementare
- Exportul modelelor din instrumente de antrenament (MindSpore, TensorFlow, PyTorch)
- Utilizarea ATC (Ascend Tensor Compiler) pentru conversia formatului
- Modele cu formă statică vs dinamică
Implementarea în CloudMatrix
- Crearea de servicii și înregistrarea modelelor
- Implementarea serviciilor de inferență prin UI sau CLI
- Rutare, autentificare și controlul accesului
Servirea Cererilor de Inferență
- Fluxuri de inferență în loturi vs în timp real
- Pipeline-uri de preprocesare și postprocesare a datelor
- Apelarea serviciilor CloudMatrix din aplicații externe
Monitorizarea și Optimizarea Performanței
- Loguri de implementare și urmărirea cererilor
- Scalarea resurselor și echilibrarea încărcării
- Ajustarea latenței și optimizarea debitului
Integrarea cu Instrumente de Enterprise
- Conectarea CloudMatrix cu OBS și ModelArts
- Utilizarea fluxurilor de lucru și a versiunilor modelelor
- CI/CD pentru implementarea și revenirea modelelor
Pipeline de Inferență de la un Capăt la Altul
- Implementarea unui pipeline complet de clasificare a imaginilor
- Testarea și validarea preciziei
- Simularea failover-ului și a alertelor de sistem
Rezumat și Pași Următori
Cerințe
- Înțelegerea fluxurilor de lucru pentru antrenarea modelelor AI
- Experiență cu framework-uri ML bazate pe Python
- Familiaritate de bază cu conceptele de implementare în cloud
Publicul țintă
- Echipe de operare AI
- Ingineri de învățare automată
- Specialiști în implementare cloud care lucrează cu infrastructura Huawei
Cursurile publice necesita 5+ participanti
Curs de pregatire Inferență și Implementare AI cu CloudMatrix - Rezervare
Curs de pregatire Inferență și Implementare AI cu CloudMatrix - Solicitare
Inferență și Implementare AI cu CloudMatrix - Cerere de consultanta
Mărturii (1)
Stilul deschis si cald al trainerului, limbajul accesibil.
OPREAN ADELA - Aeronamic Eastern Europe
Curs - AI Enablement Training for Engineers
Cursuri viitoare
Cursuri înrudite
Dezvoltarea Aplicațiilor de AI cu Huawei Ascend și CANN
21 OreHuawei Ascend este o familie de procesoare AI proiectate pentru inferență și antrenament de înaltă performanță.
Acest training condus de un instructor, live (online sau onsite), este destinat inginerilor de AI și oamenilor de știință de date de nivel intermediar care doresc să dezvolte și să optimizeze modele de rețele neuronale folosind platforma Huawei Ascend și toolkit-ul CANN.
La finalul acestui training, participanții vor putea:
- Să configureze și să pună la punct mediul de dezvoltare CANN.
- Să dezvolte aplicații AI folosind fluxurile de lucru MindSpore și CloudMatrix.
- Să optimizeze performanța pe NPU-urile Ascend folosind operatori personalizați și tiling.
- Să implementeze modele în medii de edge sau cloud.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a Huawei Ascend și a toolkit-ului CANN în aplicații exemplu.
- Exerciții ghidate axate pe construirea, antrenarea și implementarea modelelor.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe infrastructura sau seturile de date dumneavoastră, vă rugăm să ne contactați pentru a aranja.
Implementarea Modelelor de AI cu CANN și Procesoarele AI Ascend
14 OreCANN (Compute Architecture for Neural Networks) este stiva de calcul AI a Huawei pentru implementarea și optimizarea modelelor de AI pe procesoarele AI Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor și inginerilor de AI de nivel intermediar care doresc să implementeze eficient modele de AI antrenate pe hardware-ul Huawei Ascend folosind toolkit-ul CANN și instrumente precum MindSpore, TensorFlow sau PyTorch.
La finalul acestui training, participanții vor putea:
- Să înțeleagă arhitectura CANN și rolul său în procesul de implementare a AI.
- Să convertească și să adapteze modele din framework-uri populare la formate compatibile cu Ascend.
- Să folosească instrumente precum ATC, conversia modelului OM și MindSpore pentru inferență la margine și în cloud.
- Să diagnosticheze problemele de implementare și să optimizeze performanța pe hardware-ul Ascend.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Lucrări practice în laborator folosind instrumente CANN și simulatoare sau dispozitive Ascend.
- Scenarii practice de implementare bazate pe modele de AI din lumea reală.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Fundamentele Ingineriei AI
14 OreAceastă instruire condusă de un instructor, live în Moldova (online sau la fața locului) este destinată inginerilor AI și dezvoltatorilor de software de la nivel începător până la intermediar, care doresc să dobândească o înțelegere de bază a principiilor și practicilor de inginerie AI.
La finalul acestei instruiri, participanții vor putea:
- Să înțeleagă conceptele și tehnologiile de bază din spatele AI și învățării automate.
- Să implementeze modele de bază de învățare automată folosind TensorFlow și PyTorch.
- Să aplice tehnici AI pentru a rezolva probleme practice în dezvoltarea de software.
- Să gestioneze și să întrețină proiecte AI folosind cele mai bune practici în inginerie AI.
- Să recunoască implicațiile și responsabilitățile etice implicate în dezvoltarea sistemelor AI.
Formare în Activarea AI pentru Ingineri
14 OreAcest program practic de două zile îi înzestrează pe participanți cu abilități practice pentru a utiliza eficient, sigur și consecvent instrumentele de AI Generativă în munca tehnică și operațională. Formarea se concentrează pe transformarea AI într-un asistent de zi cu zi de încredere pentru elaborarea și îmbunătățirea documentației, structurarea cerințelor, accelerarea analizei și raportării, sprijinirea rezolvării problemelor și optimizarea comunicării interfuncționale. Participanții învață modele de promptare dovedite, tehnici de validare pentru a reduce erorile și „halucinațiile”, precum și practici ușoare de guvernanță pentru a proteja informațiile confidențiale și proprietatea intelectuală. Cursul este conceput pentru a produce șabloane, fluxuri de lucru și o abordare repetabilă a muncii asistate de AI care pot fi utilizate imediat.
Construirea Aplicațiilor Inteligente cu AI și ML
28 OreAceastă formare condusă de un instructor, live în Moldova (online sau la fața locului) este destinată profesioniștilor AI și dezvoltatorilor de software de nivel intermediar până la avansat, care doresc să construiască aplicații inteligente folosind AI și ML.
La finalul acestei formări, participanții vor putea:
- Să înțeleagă conceptele și tehnologiile avansate din spatele AI și ML.
- Să analizeze și să vizualizeze date pentru a informa dezvoltarea modelelor AI/ML.
- Să construiască, să antreneze și să implementeze modele AI/ML în mod eficient.
- Să creeze aplicații inteligente care să rezolve probleme din lumea reală.
- Să evalueze implicațiile etice ale aplicațiilor AI în diverse industrii.
Introducere în CANN pentru Dezvoltatori de Cadre AI
7 OreCANN (Compute Architecture for Neural Networks) este toolkit-ul de calcul AI al Huawei, folosit pentru a compila, optimiza și implementa modele AI pe procesoarele Ascend AI.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată dezvoltatorilor AI de nivel începător care doresc să înțeleagă cum se integrează CANN în ciclul de viață al modelului, de la antrenament la implementare, și cum funcționează împreună cu cadre precum MindSpore, TensorFlow și PyTorch.
La finalul acestei formări, participanții vor putea:
- Înțelege scopul și arhitectura toolkit-ului CANN.
- Să configureze un mediu de dezvoltare cu CANN și MindSpore.
- Să convertească și să implementeze un model AI simplu pe hardware-ul Ascend.
- Să dobândească cunoștințe de bază pentru viitoare proiecte de optimizare sau integrare CANN.
Formatul cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu implementarea unui model simplu.
- Parcurgere pas cu pas a lanțului de unelte CANN și a punctelor de integrare.
Opțiuni de personalizare a cursului
- Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN pentru Implementarea AI la Margine
14 OreSetul de instrumente CANN al Huawei Ascend permite inferență puternică de AI pe dispozitive de margine, cum ar fi Ascend 310. CANN oferă instrumente esențiale pentru compilarea, optimizarea și implementarea modelelor în medii cu resurse limitate de calcul și memorie.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată dezvoltatorilor și integratilor AI de nivel intermediar care doresc să implementeze și să optimizeze modele pe dispozitivele de margine Ascend folosind lanțul de instrumente CANN.
La sfârșitul acestei formări, participanții vor putea:
- Să pregătească și să convertească modele AI pentru Ascend 310 folosind instrumentele CANN.
- Să construiască fluxuri de inferență ușoare folosind MindSpore Lite și AscendCL.
- Să optimizeze performanța modelelor pentru medii cu resurse limitate de calcul și memorie.
- Să implementeze și să monitorizeze aplicații AI în cazuri de utilizare reală la margine.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Lucrări practice în laborator cu modele și scenarii specifice marginii.
- Exemple de implementare live pe hardware virtual sau fizic de margine.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Înțelegerea Stivei de Calcul AI a Huawei: De la CANN la MindSpore
14 OreStiva AI a Huawei — de la SDK-ul de bază CANN până la framework-ul de nivel înalt MindSpore — oferă un mediu integrat de dezvoltare și implementare AI, optimizat pentru hardware-ul Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor tehnici de la nivel începător până la intermediar, care doresc să înțeleagă cum componentele CANN și MindSpore lucrează împreună pentru a sprijini gestionarea ciclului de viață AI și deciziile de infrastructură.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura stratificată a stivei de calcul AI a Huawei.
- Identifica cum CANN sprijină optimizarea modelelor și implementarea la nivel de hardware.
- Evaluează framework-ul și lanțul de unelte MindSpore în raport cu alternativele din industrie.
- Poziționează stiva AI a Huawei în medii enterprise sau cloud/on-prem.
Formatul Cursului
- Prelegere interactivă și discuții.
- Demo-uri live ale sistemului și prezentări bazate pe cazuri.
- Laboratoare ghidate opționale pe fluxul modelelor de la MindSpore la CANN.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Optimizarea Performanței Rețelelor Neuronale cu CANN SDK
14 OreCANN SDK (Compute Architecture for Neural Networks) este fundația de calcul AI a Huawei care permite dezvoltatorilor să ajusteze și să optimizeze performanța rețelelor neuronale implementate pe procesoarele Ascend AI.
Acest training condus de un instructor, live (online sau onsite), este destinat dezvoltatorilor AI avansați și inginerilor de sistem care doresc să optimizeze performanța inferenței folosind setul avansat de instrumente CANN, inclusiv Graph Engine, TIK și dezvoltarea de operatori personalizați.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura de runtime a CANN și ciclul de performanță.
- Utiliza instrumente de profiling și Graph Engine pentru analiza și optimizarea performanței.
- Crea și optimiza operatori personalizați folosind TIK și TVM.
- Rezolva blocaje de memorie și îmbunătățește debitul modelului.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu profiling în timp real și ajustare a operatorilor.
- Exerciții de optimizare folosind exemple de implementare în cazuri extreme.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN SDK pentru Pipe-uri de Computer Vision și NLP
14 OreCANN SDK (Compute Architecture for Neural Networks) oferă instrumente puternice de implementare și optimizare pentru aplicații AI în timp real în domeniile computer vision și NLP, în special pe hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat practicienților AI de nivel intermediar care doresc să construiască, să implementeze și să optimizeze modele de vedere și limbaj folosind CANN SDK pentru cazuri de utilizare în producție.
La sfârșitul acestui training, participanții vor putea:
- Să implementeze și să optimizeze modele CV și NLP folosind CANN și AscendCL.
- Să folosească instrumentele CANN pentru a converti modele și a le integra în pipe-uri live.
- Să optimizeze performanța de inferență pentru sarcini precum detectarea, clasificarea și analiza sentimentelor.
- Să construiască pipe-uri CV/NLP în timp real pentru scenarii de implementare la margine sau în cloud.
Formatul Cursului
- Curs interactiv și demonstrație.
- Laborator practic cu implementarea modelelor și profilarea performanței.
- Proiectarea de pipe-uri live folosind cazuri reale de CV și NLP.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Construirea Operatorilor AI Personalizați cu CANN TIK și TVM
14 OreCANN TIK (Tensor Instruction Kernel) și Apache TVM permit optimizarea și personalizarea avansată a operatorilor de modele AI pentru hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor de sisteme de nivel avansat care doresc să construiască, să implementeze și să ajusteze operatori personalizați pentru modele AI folosind modelul de programare TIK din CANN și integrarea compilatorului TVM.
La finalul acestui training, participanții vor putea:
- Scrie și testează operatori AI personalizați folosind TIK DSL pentru procesoarele Ascend.
- Integrează operatori personalizați în runtime-ul CANN și graful de execuție.
- Folosește TVM pentru programarea operatorilor, auto-ajustare și benchmarking.
- Depanează și optimizează performanța la nivel de instrucțiuni pentru modele de calcul personalizate.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Scrierea de cod pentru operatori folosind pipeline-urile TIK și TVM.
- Testare și ajustare pe hardware-ul Ascend sau simulatoare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Migrarea Aplicațiilor CUDA pe Arhitecturi GPU Chinezești
21 OreArhitecturile GPU chinezești, cum ar fi Huawei Ascend, Biren și Cambricon MLU, oferă alternative la CUDA adaptate pentru piețele locale de AI și HPC.
Acest training condus de un instructor, live (online sau la fața locului), este destinat programatorilor avansați de GPU și specialiștilor în infrastructură care doresc să migreze și să optimizeze aplicațiile CUDA existente pentru implementare pe platforme hardware chinezești.
La finalul acestui training, participanții vor putea:
- Evalua compatibilitatea sarcinilor CUDA existente cu alternativele de chip-uri chinezești.
- Porta bazele de cod CUDA în mediile Huawei CANN, Biren SDK și Cambricon BANGPy.
- Compara performanța și identifica punctele de optimizare pe diferite platforme.
- Aborda provocări practice în suportul și implementarea pe arhitecturi diferite.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice de traducere a codului și comparare a performanței.
- Exerciții ghidate concentrate pe strategii de adaptare multi-GPU.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe platforma sau proiectul dumneavoastră CUDA, vă rugăm să ne contactați pentru a aranja.
Fundamentele Aplicațiilor Inteligente
14 OreAcest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat profesioniștilor IT de nivel începător care doresc să obțină o înțelegere de bază a aplicațiilor inteligente și modul în care acestea pot fi aplicate în diverse industrii.
La sfârșitul acestui training, participanții vor putea:
- Să înțeleagă istoria, principiile și impactul inteligenței artificiale.
- Să identifice și să aplice diferite algoritmi de învățare automată.
- Să gestioneze și să analizeze date eficient pentru aplicații AI.
- Să recunoască aplicațiile practice și limitările AI în diferite sectoare.
- Să discute despre considerațiile etice și implicațiile sociale ale tehnologiei AI.
Aplicații Inteligente Avansate
21 OreAcest training condus de un instructor, live în Moldova (online sau la fața locului), este destinat specialiștilor în știința datelor, inginerilor și practicienilor AI de nivel intermediar și avansat, care doresc să stăpânească complexitatea aplicațiilor inteligente și să le utilizeze pentru a rezolva probleme complexe din lumea reală.
La sfârșitul acestui training, participanții vor putea:
- Implementa și analiza arhitecturi de învățare profundă.
- Aplica învățarea automată la scară într-un mediu de calcul distribuit.
- Proiecta și executa modele de învățare prin întărire pentru luarea deciziilor.
- Dezvolta sisteme sofisticate de procesare a limbajului natural pentru înțelegerea limbajului.
- Utiliza tehnici de viziune computerizată pentru analiza imaginilor și videoclipurilor.
- Aborda considerațiile etice în dezvoltarea și implementarea sistemelor AI.
Optimizarea Performanțelor pe Ascend, Biren și Cambricon
21 OreAscend, Biren și Cambricon sunt platforme hardware de top pentru inteligența artificială din China, fiecare oferind instrumente unice de accelerare și profilare pentru sarcini de producție la scară largă în domeniul IA.
Acest training condus de un instructor, live (online sau la fața locului), este destinat inginerilor avansați de infrastructură și performanță în domeniul IA care doresc să optimizeze procesele de inferență și antrenare a modelelor pe mai multe platforme de cipuri AI chinezești.
La sfârșitul acestui training, participanții vor putea:
- Să efectueze benchmark-uri pe modele pe platformele Ascend, Biren și Cambricon.
- Să identifice punctele de blocaj ale sistemului și ineficiențele de memorie/calcul.
- Să aplice optimizări la nivel de graf, kernel și operator.
- Să ajusteze conductele de implementare pentru a îmbunătăți debitul și latența.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizarea practică a instrumentelor de profilare și optimizare pe fiecare platformă.
- Exerciții ghidate axate pe scenarii practice de ajustare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe mediul dvs. de performanță sau tipul de model, vă rugăm să ne contactați pentru a aranja.