Intrati in legatura
 Durata 21 ore

Schița de curs

Introducere în TinyML și AI embeddat

  • Caracteristicile implementării modelelor TinyML.
  • Constrângerile în mediile cu microcontrolere.
  • Prezentarea toolchain-urilor pentru AI embeddat.

Bazele optimizării modelelor

  • Înțelegerea gâurilor de bottleneck computațional.
  • Identificarea operațiilor intensive din punct de vedere al memoriei.
  • Profilarea performanței de bază (baseline).

Tehnici de cuantizare

  • Strategii de cuantizare după antrenare (post-training quantization).
  • Antrenare cu recunoaștere a cuantizării (quantization-aware training).
  • Evaluarea compromisului dintre acuratețe și resurse.

Tăiere (Pruning) și compresie

  • Metode de tăiere structurată și nestructurată.
  • Partajarea greutăților și sparsitatea modelului.
  • Algoritmi de compresie pentru inferență ușoară (lightweight).

Optimizare orientată spre hardware

  • Implementarea modelelor pe sisteme ARM Cortex-M.
  • Optimizarea pentru extensii DSP și acceleratoare.
  • Considerații privind maparea memoriei și fluxul de date (dataflow).

Benchmarking și validare

  • Analiza latenței și a dezbaterii (throughput).
  • Măsurarea consumului de putere și energie.
  • Testarea acurateței și a robusteții.

Fluxuri de implementare și instrumente

  • Folosirea TensorFlow Lite Micro pentru implementare embeddat.
  • Integrarea modelelor TinyML cu pipeline-urile Edge Impulse.
  • Testare și depanare pe hardware real.

Strategii avansate de optimizare

  • Căutare automată a arhitecturii de rețele neuronale (NAS) pentru TinyML.
  • Aproximări hibride de cuantizare și tăiere.
  • Distilarea modelelor pentru inferență embeddat.

Sinteză și pași următori

Cerințe

  • Înțelegerea fluxurilor de lucru în machine learning.
  • Experiență cu sistemele embeddare sau dezvoltarea bazată pe microcontrolere.
  • Familiaritate cu programarea în Python.

Public țintă

  • Cercetători în AI.
  • Ingineri în ML embeddat.
  • Profesioniști care lucrează la sisteme de inferență cu resurse limitate.

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite