Schița de curs

Introducere în Inferența AI cu Docker

  • Înțelegerea sarcinilor de inferență AI
  • Beneficiile inferenței containerizate
  • Scenarii și constrângeri de implementare

Construirea Containerelor de Inferență AI

  • Selectarea imaginilor de bază și a framework-urilor
  • Împachetarea modelelor preantrenate
  • Structurarea codului de inferență pentru execuția în container

Securizarea Serviciilor AI Containerizate

  • Minimizarea suprafeței de atac a containerelor
  • Gestionarea secretelor și a fișierelor sensibile
  • Strategii sigure de rețea și expunere a API-urilor

Tehnici de Implementare Portabilă

  • Optimizarea imaginilor pentru portabilitate
  • Asigurarea unor medii de execuție predictibile
  • Gestionarea dependențelor pe diverse platforme

Implementarea și Testarea Locală

  • Rularea serviciilor local cu Docker
  • Depanarea containerelor de inferență
  • Testarea performanței și fiabilității

Implementarea pe Servere și VM-uri în Cloud

  • Adaptarea containerelor pentru medii remote
  • Configurarea accesului securizat la servere
  • Implementarea API-urilor de inferență pe VM-uri în cloud

Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu

  • Orchestrarea inferenței cu componente de suport
  • Gestionarea variabilelor de mediu și a configurațiilor
  • Scalarea microserviciilor cu Compose

Monitorizarea și Întreținerea Serviciilor de Inferență AI

  • Abordări de logare și observabilitate
  • Detectarea defecțiunilor în pipeline-urile de inferență
  • Actualizarea și versionarea modelelor în producție

Rezumat și Pași Următori

Cerințe

  • Înțelegerea conceptelor de bază ale învățării automate
  • Experiență cu Python sau dezvoltare backend
  • Familiaritate cu conceptele de bază ale containerizării

Publicul țintă

  • Dezvoltatori
  • Ingineri backend
  • Echipe care implementează servicii AI
 14 Ore

Numărul de participanți


Pret per participant

Mărturii (5)

Cursuri viitoare

Categorii înrudite