Schița de curs

Introducere în Edge AI și Nano Banana

  • Caracteristici cheie ale sarcinilor de lucru edge-AI
  • Arhitectura și capacitățile Nano Banana
  • Compararea strategiilor de implementare edge vs cloud

Pregătirea Modelelor pentru Implementarea pe Edge

  • Selectarea modelului și evaluarea de bază
  • Considerații privind dependențele și compatibilitatea
  • Exportul modelelor pentru optimizare suplimentară

Tehnici de Comprimare a Modelelor

  • Strategii de pruning și sparsețe structurală
  • Partajarea ponderilor și reducerea parametrilor
  • Evaluarea impactului comprimării

Cuantizare pentru Performanță pe Edge

  • Metode de cuantizare post-antrenament
  • Fluxuri de lucru de antrenament conștient de cuantizare
  • Abordări INT8, FP16 și de precizie mixtă

Accelerare cu Nano Banana

  • Utilizarea acceleratoarelor Nano Banana
  • Integrarea ONNX și a backend-urilor hardware
  • Benchmarking al inferenței accelerate

Implementarea pe Dispozitive Edge

  • Integrarea modelelor în aplicații embedded sau mobile
  • Configurarea și monitorizarea runtime
  • Depanarea problemelor de implementare

Profilarea Performanței și Analiza Compromisurilor

  • Constrângeri de latență, debit și termice
  • Compromisuri între acuratețe și performanță
  • Strategii iterative de optimizare

Cele Mai Bune Practici pentru Menținerea Sistemelor Edge-AI

  • Versionare și actualizări continue
  • Gestionarea revenirii la versiuni anterioare și a compatibilității
  • Considerații de securitate și integritate

Rezumat și Pași Următori

Cerințe

  • Înțelegerea fluxurilor de lucru ale învățării automate
  • Experiență în dezvoltarea de modele bazate pe Python
  • Familiaritate cu arhitecturile de rețele neuronale

Publicul țintă

  • Ingineri ML
  • Oameni de știință de date
  • Practicieni MLOps
 14 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite