Schița de curs

Introducere în TinyML și AI Imbedată

  • Caracteristici ale implementării modelelor TinyML
  • Restricții din mediile cu microcontrolere
  • Prezentare generală a lanțurilor de instrumente pentru AI imbedată

Fundamentele Optimizării Modelei

  • Înțelegerea blocurilor computaționale critice
  • Identificarea operațiunilor intensive în memorie
  • Profilare de performanță la nivel de bază

Tehnici de Cuantificare

  • Strategii de cuantificare post-antrenament
  • Antrenament cu consciență a cuantificării
  • Evaluarea compromisurilor între acuratețe și resurse

Taierii și Compresie

  • Metode de taiere structurată și nestructurată
  • Impărtășirea ponderilor și sparsitatea modelului
  • Algoritmi de compresie pentru inferință ușoară

Optimizarea Conștientă de Hardware

  • Implementarea modelelor pe sisteme ARM Cortex-M
  • Optimizarea pentru extensii DSP și acceleratori
  • Considerente privind mapearea memoriei și fluxul de date

Benchmarking și Validare

  • Analiza latenței și a debitului
  • Măsurarea consumului de putere și energie
  • Testarea acurateții și robusteții

Fluxuri de Lucru și Instrumente pentru Implementare

  • Utilizarea TensorFlow Lite Micro pentru implementare imbedată
  • Integrarea modelelor TinyML cu pipeline-urile Edge Impulse
  • Testarea și depanarea pe hardware real

Strategii Avansate de Optimizare

  • Căutarea arhitecturilor neuronale pentru TinyML
  • Abordări hibride de cuantificare și taiere
  • Distilarea modelelor pentru inferința imbedată

Rezumat și Următoarele Pași

Cerințe

  • O înțelegere a fluxurilor de lucru ale învățării automate
  • Experiență cu sisteme imbedate sau dezvoltare bazată pe microcontrolere
  • Familiarizarea cu programarea Python

Public țintă

  • Cercetători în AI
  • Ingineri de ML imbedat
  • Profesioniști care lucrează la sistemele de inferință cu resurse limitate
 21 ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite