Intrati in legatura

Schița de curs

Introducere în inferența AI cu Docker

  • Înțelegerea sarcinilor de lucru ale inferenței AI
  • Avantajele inferenței containerizate
  • Scenarii și constrângeri ale distribuirii

Construirea containerelor pentru inferență AI

  • Selectarea imaginilor de bază și a cadrelor de lucru (frameworks)
  • Împachetarea modelelor preinstruite (pretrained models)
  • Structurarea codului de inferență pentru execuție în containere

Securizarea serviciilor AI containerizate

  • Minimizarea suprafeței de atac a containerelor
  • Gestionarea secretelelor și a fișierelor sensibile
  • Strategii sigure de expunere a rețelei și API-urilor

Tehnici de distribuire portabilă

  • Optimizarea imaginilor pentru portabilitate
  • Asigurarea mediilor de runtime previzibile
  • Gestionarea dependențelor între platforme

Distribuire locală și testare

  • Executarea serviciilor local cu Docker
  • Depanarea containerelor de inferență
  • Testarea performanței și fiabilității

Distribuire pe servere și instanțe VM în cloud

  • Adaptarea containelor pentru medii la distanță
  • Configurarea accesului securizat la server
  • Distribuția API-urilor de inferență pe instanțe VM din cloud

Utilizarea Docker Compose pentru sisteme AI multi-servicii

  • Orchestrarea inferenței împreună cu componentele suport
  • Gestionarea variabilelor de mediu și a configurațiilor
  • Scalarea microserviciilor folosind Compose

Monitorizarea și întreținerea serviciilor de inferență AI

  • Abordări pentru logare și observabilitate
  • Detectarea erorilor în pipeline-urile de inferență
  • Actualizarea și versionarea modelelor în producție

Sinteză și pași următori

Cerințe

  • O înțelegere a conceptelor de bază ale învățării automate (machine learning)
  • Experiență cu Python sau dezvoltarea backend-ului
  • Cunoașterea conceptelor fundamentale de containerizare

PUBLICUL ŢINTĂ

  • Dezvoltatori
  • Engineri backend
  • Echipe care distribuie servicii AI
 14 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite