Schița de curs

Introducere în Cambricon și arhitectura MLU

  • Pregătire generală a portofoliului de chipuri AI Cambricon
  • Arhitectura MLU și pipeline-ul de instrucțiuni
  • Tipurile de modele suportate și cazurile de utilizare

Instalarea lanțului de instrumente de dezvoltare

  • Instalarea BANGPy și Neuware SDK
  • Configurarea mediului pentru Python și C++
  • Compatibilitatea modelului și preprocesarea

Dezvoltarea modelelor cu BANGPy

  • Gestionarea structurii tensorului și a formei
  • Construcția graficului de calcul
  • Suport pentru operațiuni personalizate în BANGPy

Deploying with Neuware Runtime

  • Convertirea și încărcarea modelelor
  • Controlul execuției și inferențelor
  • Practici de deploy la marginea rețelei și în centre de date

Optimizare performanță

  • Mapearea memoriei și ajustarea stratului
  • Tracing-ul execuției și profilaj
  • Bottlenecks comune și remedii

Integrarea MLU în aplicații

  • Folosirea API-urilor Neuware pentru integrarea aplicațiilor
  • Suport pentru streaming și multi-model
  • Cereri hibride CPU-MLU de inferență

Proiect complet și Use Case

  • Laborator: Deploying a vision or NLP model
  • Inferența la marginea rețelei cu integrarea BANGPy
  • Testarea acurateții și al fluxului de date

Rezumat și următoarele pași

Cerințe

  • O înțelegere a structurilor modelelor de învățare automatizată
  • Experiență cu Python și/sau C++
  • Familiaritate cu conceptele de implementare și accelerare a modelului

Audiența

  • Dezvoltatori AI embarcați
  • Ingineri ML care implementează la margine sau în centru de date
  • Dezvoltatori care lucrează cu infrastructura AI chineză
 21 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite