Intrati in legatura

Schița de curs

Introducere în Cambricon și arhitectura MLU

  • Prezentare generală a portofoliului de cipuri AI Cambricon
  • Arhitectura MLU și pipeline-ul de instrucțiuni
  • Tipuri de modele și cazuri de utilizare acceptate

Instalarea lanțului de instrumente de dezvoltare

  • Instalarea BANGPy și SDK-ului Neuware
  • Configurarea mediului pentru Python și C++
  • Compatibilitatea modelelor și preprocesarea

Dezvoltarea modelelor cu BANGPy

  • Structura și gestionarea formei tensorilor
  • Construcția graficelor de calcul
  • Suport pentru operații personalizate în BANGPy

Implementarea cu Runtime-ul Neuware

  • Conversia și încărcarea modelelor
  • Controlul execuției și inferenței
  • Practici de implementare pe edge și datacenter

Optimizarea performanței

  • Maparea memoriei și reglarea straturilor
  • Trasarea și profilarea execuției
  • Gâtuiri comune și remedieri

Integrarea MLU în aplicații

  • Utilizarea API-urilor Neuware pentru integrarea aplicațiilor
  • Suport pentru streaming și modele multiple
  • Scenarii de inferență hibridă CPU-MLU

Proiect și caz de utilizare de la cap la capăt

  • Laborator: Implementarea unui model de vedere sau NLP
  • Inferență pe edge cu integrare BANGPy
  • Testarea acurateței și a debitului

Rezumat și pași următori

Cerințe

  • Înțelegerea structurilor modelelor de învățare automată
  • Experiență cu Python și/sau C++
  • Cunoașterea conceptelor de implementare și accelerație a modelelor

Publicul țintă

  • Dezvoltatori AI embedded
  • Ingineri ML care implementează pe edge sau datacenter
  • Dezvoltatori care lucrează cu infrastructura AI din China
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite