Schița de curs

Introducere în TinyML și AI Embedded

  • Caracteristicile implementării modelelor TinyML
  • Constrângeri în mediile cu microcontrolere
  • Prezentare generală a toolchain-urilor de AI embedded

Fundamente ale Optimizării Modelelor

  • Înțelegerea punctelor de blocaj computaționale
  • Identificarea operațiunilor intensive din punct de vedere al memoriei
  • Profilarea performanței de bază

Tehnici de Cuantizare

  • Strategii de cuantizare post-antrenament
  • Antrenament conștient de cuantizare
  • Evaluarea compromisurilor dintre acuratețe și resurse

Tăiere și Compresie

  • Metode de tăiere structurată și nestructurată
  • Partajarea ponderilor și sparțimea modelului
  • Algoritmi de compresie pentru inferență ușoară

Optimizare Conștientă de Hardware

  • Implementarea modelelor pe sisteme ARM Cortex-M
  • Optimizare pentru extensii DSP și acceleratoare
  • Considerații privind maparea memoriei și fluxul de date

Benchmarking și Validare

  • Analiza latenței și a debitului
  • Măsurători ale consumului de energie și putere
  • Testarea acurateței și robusteței

Fluxuri de Lucru și Instrumente de Implementare

  • Utilizarea TensorFlow Lite Micro pentru implementare embedded
  • Integrarea modelelor TinyML cu pipeline-uri Edge Impulse
  • Testarea și depanarea pe hardware real

Strategii Avansate de Optimizare

  • Căutarea arhitecturilor neuronale pentru TinyML
  • Abordări hibride de cuantizare-tăiere
  • Distilarea modelelor pentru inferență embedded

Rezumat și Pași Următori

Cerințe

  • Înțelegere a fluxurilor de lucru din învățarea automată
  • Experiență cu sisteme embedded sau dezvoltare bazată pe microcontrolere
  • Familiaritate cu programarea în Python

Publicul țintă

  • Cercetători în domeniul AI
  • Ingineri de ML embedded
  • Profesioniști care lucrează la sisteme de inferență cu resurse limitate
 21 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite