Schița de curs
Introducere în Inferența AI cu Docker
- Înțelegerea sarcinilor de inferență AI
- Beneficiile inferenței containerizate
- Scenarii și constrângeri de implementare
Construirea Containerelor de Inferență AI
- Selectarea imaginilor de bază și a framework-urilor
- Împachetarea modelelor preantrenate
- Structurarea codului de inferență pentru execuția în container
Securizarea Serviciilor AI Containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și a fișierelor sensibile
- Strategii sigure de rețea și expunere a API-urilor
Tehnici de Implementare Portabilă
- Optimizarea imaginilor pentru portabilitate
- Asigurarea unor medii de execuție predictibile
- Gestionarea dependențelor pe diverse platforme
Implementarea și Testarea Locală
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferență
- Testarea performanței și fiabilității
Implementarea pe Servere și VM-uri în Cloud
- Adaptarea containerelor pentru medii remote
- Configurarea accesului securizat la servere
- Implementarea API-urilor de inferență pe VM-uri în cloud
Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu
- Orchestrarea inferenței cu componente de suport
- Gestionarea variabilelor de mediu și a configurațiilor
- Scalarea microserviciilor cu Compose
Monitorizarea și Întreținerea Serviciilor de Inferență AI
- Abordări de logare și observabilitate
- Detectarea defecțiunilor în pipeline-urile de inferență
- Actualizarea și versionarea modelelor în producție
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de bază ale învățării automate
- Experiență cu Python sau dezvoltare backend
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Dezvoltatori
- Ingineri backend
- Echipe care implementează servicii AI
Mărturii (5)
El a explicat totul, nu doar noțiuni ale k8s.
Stefan Voinea - EMAG IT Research S.R.L
Curs - Certified Kubernetes Application Developer (CKAD) - exam preparation
Tradus de catre o masina
Adâncimea cunoștințelor instrucționarului
Grant Miller - BMW
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
Mulțumitor și la punct. Practică cu manipulare directă
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Conținut excelent
Alan Kavanagh - FINEOS Corporation Ltd
Curs - Docker from Basic to Advanced
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina