Cursuri de pregatire Optimizarea Performanțelor pe Ascend, Biren și Cambricon
Ascend, Biren și Cambricon sunt platforme hardware de top pentru inteligența artificială din China, fiecare oferind instrumente unice de accelerare și profilare pentru sarcini de producție la scară largă în domeniul IA.
Acest training condus de un instructor, live (online sau la fața locului), este destinat inginerilor avansați de infrastructură și performanță în domeniul IA care doresc să optimizeze procesele de inferență și antrenare a modelelor pe mai multe platforme de cipuri AI chinezești.
La sfârșitul acestui training, participanții vor putea:
- Să efectueze benchmark-uri pe modele pe platformele Ascend, Biren și Cambricon.
- Să identifice punctele de blocaj ale sistemului și ineficiențele de memorie/calcul.
- Să aplice optimizări la nivel de graf, kernel și operator.
- Să ajusteze conductele de implementare pentru a îmbunătăți debitul și latența.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizarea practică a instrumentelor de profilare și optimizare pe fiecare platformă.
- Exerciții ghidate axate pe scenarii practice de ajustare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe mediul dvs. de performanță sau tipul de model, vă rugăm să ne contactați pentru a aranja.
Schița de curs
Concepte și Metrici de Performanță
- Latență, debit, consum de energie, utilizarea resurselor
- Puncte de blocaj la nivel de sistem vs. model
- Profilare pentru inferență vs. antrenare
Profilare pe Huawei Ascend
- Utilizarea CANN Profiler și MindInsight
- Diagnosticarea kernel și operator
- Modele de descărcare și mapare a memoriei
Profilare pe Biren GPU
- Funcții de monitorizare a performanței din Biren SDK
- Fuziunea kernel, alinierea memoriei și cozile de execuție
- Profilare bazată pe putere și temperatură
Profilare pe Cambricon MLU
- Instrumente de performanță BANGPy și Neuware
- Vizibilitate la nivel de kernel și interpretarea jurnalelor
- Integrarea profilerului MLU cu cadrele de implementare
Optimizare la Nivel de Graf și Model
- Strategii de tăiere și cuantizare a grafului
- Fuziunea operatorilor și restructurarea grafului de calcul
- Standardizarea dimensiunii de intrare și ajustarea loturilor
Optimizarea Memoriei și Kernel
- Optimizarea layout-ului și reutilizării memoriei
- Gestionarea eficientă a bufferelor pe diferite cipseturi
- Tehnici de ajustare la nivel de kernel pe fiecare platformă
Practici Recomandate Cross-Platform
- Portabilitatea performanței: strategii de abstractizare
- Construirea de conducte de ajustare partajate pentru medii multi-chip
- Exemplu: ajustarea unui model de detectare a obiectelor pe Ascend, Biren și MLU
Rezumat și Pași Următori
Cerințe
- Experiență în lucrul cu conducte de antrenare sau implementare a modelelor de IA
- Înțelegerea principiilor de calcul GPU/MLU și a optimizării modelelor
- Familiaritate de bază cu instrumentele și metricile de profilare a performanței
Publicul țintă
- Ingineri de performanță
- Echipe de infrastructură pentru învățarea automată
- Arhitecți de sisteme IA
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Optimizarea Performanțelor pe Ascend, Biren și Cambricon - Rezervare
Cursuri de pregatire Optimizarea Performanțelor pe Ascend, Biren și Cambricon - Solicitare
Optimizarea Performanțelor pe Ascend, Biren și Cambricon - Cerere de consultanta
Cursuri viitoare
Cursuri înrudite
Dezvoltarea Aplicațiilor de AI cu Huawei Ascend și CANN
21 OreHuawei Ascend este o familie de procesoare AI proiectate pentru inferență și antrenament de înaltă performanță.
Acest training condus de un instructor, live (online sau onsite), este destinat inginerilor de AI și oamenilor de știință de date de nivel intermediar care doresc să dezvolte și să optimizeze modele de rețele neuronale folosind platforma Huawei Ascend și toolkit-ul CANN.
La finalul acestui training, participanții vor putea:
- Să configureze și să pună la punct mediul de dezvoltare CANN.
- Să dezvolte aplicații AI folosind fluxurile de lucru MindSpore și CloudMatrix.
- Să optimizeze performanța pe NPU-urile Ascend folosind operatori personalizați și tiling.
- Să implementeze modele în medii de edge sau cloud.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a Huawei Ascend și a toolkit-ului CANN în aplicații exemplu.
- Exerciții ghidate axate pe construirea, antrenarea și implementarea modelelor.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe infrastructura sau seturile de date dumneavoastră, vă rugăm să ne contactați pentru a aranja.
Implementarea Modelelor de AI cu CANN și Procesoarele AI Ascend
14 OreCANN (Compute Architecture for Neural Networks) este stiva de calcul AI a Huawei pentru implementarea și optimizarea modelelor de AI pe procesoarele AI Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor și inginerilor de AI de nivel intermediar care doresc să implementeze eficient modele de AI antrenate pe hardware-ul Huawei Ascend folosind toolkit-ul CANN și instrumente precum MindSpore, TensorFlow sau PyTorch.
La finalul acestui training, participanții vor putea:
- Să înțeleagă arhitectura CANN și rolul său în procesul de implementare a AI.
- Să convertească și să adapteze modele din framework-uri populare la formate compatibile cu Ascend.
- Să folosească instrumente precum ATC, conversia modelului OM și MindSpore pentru inferență la margine și în cloud.
- Să diagnosticheze problemele de implementare și să optimizeze performanța pe hardware-ul Ascend.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Lucrări practice în laborator folosind instrumente CANN și simulatoare sau dispozitive Ascend.
- Scenarii practice de implementare bazate pe modele de AI din lumea reală.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Inferență și Implementare AI cu CloudMatrix
21 OreCloudMatrix este platforma unificată de dezvoltare și implementare AI a Huawei, proiectată pentru a susține pipeline-uri de inferență scalabile și de nivel de producție.
Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor AI de la nivel începător până la intermediar, care doresc să implementeze și să monitorizeze modele AI folosind platforma CloudMatrix cu integrarea CANN și MindSpore.
La finalul acestui training, participanții vor putea:
- Să utilizeze CloudMatrix pentru ambalarea, implementarea și servirea modelelor.
- Să convertească și să optimizeze modele pentru chipset-uri Ascend.
- Să configureze pipeline-uri pentru sarcini de inferență în timp real și în loturi.
- Să monitorizeze implementările și să ajusteze performanța în medii de producție.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a CloudMatrix cu scenarii reale de implementare.
- Exerciții ghidate axate pe conversie, optimizare și scalare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, bazat pe infrastructura AI sau mediul dumneavoastră cloud, vă rugăm să ne contactați pentru a aranja.
Programarea pe GPU cu Acceleratoarele Biren AI
21 OreAcceleratoarele Biren AI sunt GPU-uri de înaltă performanță proiectate pentru sarcini de AI și HPC, cu suport pentru antrenament și inferență la scară largă.
Această sesiune de formare condusă de un instructor (online sau la fața locului) este destinată dezvoltatorilor de nivel intermediar sau avansat care doresc să programeze și să optimizeze aplicații folosind stiva GPU proprietară Biren, cu comparații practice cu mediile bazate pe CUDA.
La sfârșitul acestei formări, participanții vor putea:
- Să înțeleagă arhitectura GPU Biren și ierarhia memoriei.
- Să configureze mediul de dezvoltare și să folosească modelul de programare Biren.
- Să traducă și să optimizeze cod în stil CUDA pentru platformele Biren.
- Să aplice tehnici de ajustare a performanței și depanare.
Formatul Cursului
- Prelegere interactivă și discuții.
- Utilizare practică a SDK-ului Biren în sarcini GPU de exemplu.
- Exerciții ghidate axate pe portare și ajustare a performanței.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o formare personalizată pentru acest curs, bazată pe stiva dvs. de aplicații sau nevoile de integrare, vă rugăm să ne contactați pentru a aranja.
Dezvoltare Cambricon MLU cu BANGPy și Neuware
21 OreCambricon MLU (Unități de Învățare Automată) sunt cipuri AI specializate, optimizate pentru inferență și antrenament în scenarii de edge și datacenter.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor de nivel intermediar care doresc să construiască și să implementeze modele AI utilizând framework-ul BANGPy și SDK-ul Neuware pe hardware-ul Cambricon MLU.
La sfârșitul acestui training, participanții vor putea:
- Să configureze și să pregătească mediile de dezvoltare BANGPy și Neuware.
- Să dezvolte și să optimizeze modele bazate pe Python și C++ pentru Cambricon MLU.
- Să implementeze modele pe dispozitive edge și datacenter care rulează runtime-ul Neuware.
- Să integreze fluxuri de lucru ML cu caracteristici de accelerație specifice MLU.
Formatul cursului
- Prelegere interactivă și discuții.
- Utilizare practică a BANGPy și Neuware pentru dezvoltare și implementare.
- Exerciții ghidate axate pe optimizare, integrare și testare.
Opțiuni de personalizare a cursului
- Pentru a solicita un training personalizat pentru acest curs, bazat pe modelul dvs. de dispozitiv Cambricon sau pe cazul de utilizare, vă rugăm să ne contactați pentru a aranja.
Introducere în CANN pentru Dezvoltatori de Cadre AI
7 OreCANN (Compute Architecture for Neural Networks) este toolkit-ul de calcul AI al Huawei, folosit pentru a compila, optimiza și implementa modele AI pe procesoarele Ascend AI.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată dezvoltatorilor AI de nivel începător care doresc să înțeleagă cum se integrează CANN în ciclul de viață al modelului, de la antrenament la implementare, și cum funcționează împreună cu cadre precum MindSpore, TensorFlow și PyTorch.
La finalul acestei formări, participanții vor putea:
- Înțelege scopul și arhitectura toolkit-ului CANN.
- Să configureze un mediu de dezvoltare cu CANN și MindSpore.
- Să convertească și să implementeze un model AI simplu pe hardware-ul Ascend.
- Să dobândească cunoștințe de bază pentru viitoare proiecte de optimizare sau integrare CANN.
Formatul cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu implementarea unui model simplu.
- Parcurgere pas cu pas a lanțului de unelte CANN și a punctelor de integrare.
Opțiuni de personalizare a cursului
- Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN pentru Implementarea AI la Margine
14 OreSetul de instrumente CANN al Huawei Ascend permite inferență puternică de AI pe dispozitive de margine, cum ar fi Ascend 310. CANN oferă instrumente esențiale pentru compilarea, optimizarea și implementarea modelelor în medii cu resurse limitate de calcul și memorie.
Această formare condusă de un instructor, live (online sau la fața locului), este destinată dezvoltatorilor și integratilor AI de nivel intermediar care doresc să implementeze și să optimizeze modele pe dispozitivele de margine Ascend folosind lanțul de instrumente CANN.
La sfârșitul acestei formări, participanții vor putea:
- Să pregătească și să convertească modele AI pentru Ascend 310 folosind instrumentele CANN.
- Să construiască fluxuri de inferență ușoare folosind MindSpore Lite și AscendCL.
- Să optimizeze performanța modelelor pentru medii cu resurse limitate de calcul și memorie.
- Să implementeze și să monitorizeze aplicații AI în cazuri de utilizare reală la margine.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Lucrări practice în laborator cu modele și scenarii specifice marginii.
- Exemple de implementare live pe hardware virtual sau fizic de margine.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o formare personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Înțelegerea Stivei de Calcul AI a Huawei: De la CANN la MindSpore
14 OreStiva AI a Huawei — de la SDK-ul de bază CANN până la framework-ul de nivel înalt MindSpore — oferă un mediu integrat de dezvoltare și implementare AI, optimizat pentru hardware-ul Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat profesioniștilor tehnici de la nivel începător până la intermediar, care doresc să înțeleagă cum componentele CANN și MindSpore lucrează împreună pentru a sprijini gestionarea ciclului de viață AI și deciziile de infrastructură.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura stratificată a stivei de calcul AI a Huawei.
- Identifica cum CANN sprijină optimizarea modelelor și implementarea la nivel de hardware.
- Evaluează framework-ul și lanțul de unelte MindSpore în raport cu alternativele din industrie.
- Poziționează stiva AI a Huawei în medii enterprise sau cloud/on-prem.
Formatul Cursului
- Prelegere interactivă și discuții.
- Demo-uri live ale sistemului și prezentări bazate pe cazuri.
- Laboratoare ghidate opționale pe fluxul modelelor de la MindSpore la CANN.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Optimizarea Performanței Rețelelor Neuronale cu CANN SDK
14 OreCANN SDK (Compute Architecture for Neural Networks) este fundația de calcul AI a Huawei care permite dezvoltatorilor să ajusteze și să optimizeze performanța rețelelor neuronale implementate pe procesoarele Ascend AI.
Acest training condus de un instructor, live (online sau onsite), este destinat dezvoltatorilor AI avansați și inginerilor de sistem care doresc să optimizeze performanța inferenței folosind setul avansat de instrumente CANN, inclusiv Graph Engine, TIK și dezvoltarea de operatori personalizați.
La finalul acestui training, participanții vor putea:
- Înțelege arhitectura de runtime a CANN și ciclul de performanță.
- Utiliza instrumente de profiling și Graph Engine pentru analiza și optimizarea performanței.
- Crea și optimiza operatori personalizați folosind TIK și TVM.
- Rezolva blocaje de memorie și îmbunătățește debitul modelului.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice cu profiling în timp real și ajustare a operatorilor.
- Exerciții de optimizare folosind exemple de implementare în cazuri extreme.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
CANN SDK pentru Pipe-uri de Computer Vision și NLP
14 OreCANN SDK (Compute Architecture for Neural Networks) oferă instrumente puternice de implementare și optimizare pentru aplicații AI în timp real în domeniile computer vision și NLP, în special pe hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat practicienților AI de nivel intermediar care doresc să construiască, să implementeze și să optimizeze modele de vedere și limbaj folosind CANN SDK pentru cazuri de utilizare în producție.
La sfârșitul acestui training, participanții vor putea:
- Să implementeze și să optimizeze modele CV și NLP folosind CANN și AscendCL.
- Să folosească instrumentele CANN pentru a converti modele și a le integra în pipe-uri live.
- Să optimizeze performanța de inferență pentru sarcini precum detectarea, clasificarea și analiza sentimentelor.
- Să construiască pipe-uri CV/NLP în timp real pentru scenarii de implementare la margine sau în cloud.
Formatul Cursului
- Curs interactiv și demonstrație.
- Laborator practic cu implementarea modelelor și profilarea performanței.
- Proiectarea de pipe-uri live folosind cazuri reale de CV și NLP.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Construirea Operatorilor AI Personalizați cu CANN TIK și TVM
14 OreCANN TIK (Tensor Instruction Kernel) și Apache TVM permit optimizarea și personalizarea avansată a operatorilor de modele AI pentru hardware-ul Huawei Ascend.
Acest training condus de un instructor, live (online sau la fața locului), este destinat dezvoltatorilor de sisteme de nivel avansat care doresc să construiască, să implementeze și să ajusteze operatori personalizați pentru modele AI folosind modelul de programare TIK din CANN și integrarea compilatorului TVM.
La finalul acestui training, participanții vor putea:
- Scrie și testează operatori AI personalizați folosind TIK DSL pentru procesoarele Ascend.
- Integrează operatori personalizați în runtime-ul CANN și graful de execuție.
- Folosește TVM pentru programarea operatorilor, auto-ajustare și benchmarking.
- Depanează și optimizează performanța la nivel de instrucțiuni pentru modele de calcul personalizate.
Formatul Cursului
- Prelegere interactivă și demonstrație.
- Scrierea de cod pentru operatori folosind pipeline-urile TIK și TVM.
- Testare și ajustare pe hardware-ul Ascend sau simulatoare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Migrarea Aplicațiilor CUDA pe Arhitecturi GPU Chinezești
21 OreArhitecturile GPU chinezești, cum ar fi Huawei Ascend, Biren și Cambricon MLU, oferă alternative la CUDA adaptate pentru piețele locale de AI și HPC.
Acest training condus de un instructor, live (online sau la fața locului), este destinat programatorilor avansați de GPU și specialiștilor în infrastructură care doresc să migreze și să optimizeze aplicațiile CUDA existente pentru implementare pe platforme hardware chinezești.
La finalul acestui training, participanții vor putea:
- Evalua compatibilitatea sarcinilor CUDA existente cu alternativele de chip-uri chinezești.
- Porta bazele de cod CUDA în mediile Huawei CANN, Biren SDK și Cambricon BANGPy.
- Compara performanța și identifica punctele de optimizare pe diferite platforme.
- Aborda provocări practice în suportul și implementarea pe arhitecturi diferite.
Formatul Cursului
- Prelegere interactivă și discuții.
- Laboratoare practice de traducere a codului și comparare a performanței.
- Exerciții ghidate concentrate pe strategii de adaptare multi-GPU.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un training personalizat pentru acest curs bazat pe platforma sau proiectul dumneavoastră CUDA, vă rugăm să ne contactați pentru a aranja.
