Schița de curs
Introducere în Inferența AI cu Docker
- Înțelegerea sarcinilor de inferență AI
- Beneficiile inferenței containerizate
- Scenarii și constrângeri de implementare
Construirea Containerelor de Inferență AI
- Selectarea imaginilor de bază și a cadrelor
- Împachetarea modelelor preantrenate
- Structurarea codului de inferență pentru execuția în container
Securizarea Serviciilor AI Containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și a fișierelor sensibile
- Strategii sigure de rețea și expunere a API-urilor
Tehnici de Implementare Portabilă
- Optimizarea imaginilor pentru portabilitate
- Asigurarea unor medii de execuție predictibile
- Gestionarea dependențelor pe diferite platforme
Implementare și Testare Locală
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferență
- Testarea performanței și fiabilității
Implementarea pe Servere și VM-uri în Cloud
- Adaptarea containerelor pentru medii la distanță
- Configurarea accesului securizat la servere
- Implementarea API-urilor de inferență pe VM-uri în cloud
Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu
- Orchestrarea inferenței cu componente de suport
- Gestionarea variabilelor de mediu și a configurațiilor
- Scalarea microserviciilor cu Compose
Monitorizarea și Întreținerea Serviciilor de Inferență AI
- Abordări de logare și observabilitate
- Detectarea defecțiunilor în conductele de inferență
- Actualizarea și versionarea modelelor în producție
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de bază ale învățării automate
- Experiență în Python sau dezvoltare backend
- Familiaritate cu conceptele de bază ale containerelor
Publicul țintă
- Dezvoltatori
- Ingineri backend
- Echipe care implementează servicii AI
Mărturii (1)
Formarea a îndeplinit așteptările prin explicațiile clare, exemplele din lumea reală și laboratoarele practice care au făcut temele complexe ușor de înțeles. A oferit insight-uri valoroase cu privire la orchestrarea contaiнерelor, securitatea, scalabilitatea și multe alte subiecte avansate.
Anna Wyszomirska-Szmyd - Akamai
Curs - Docker and Kubernetes advanced
Tradus de catre o masina