Schița de curs
Introducere în Inferența AI cu Docker
- Înțelegerea sarcinilor de inferență AI
- Beneficiile inferenței containerizate
- Scenarii și constrângeri de implementare
Construirea Containerelor de Inferență AI
- Selectarea imaginilor de bază și a framework-urilor
- Împachetarea modelelor preantrenate
- Structurarea codului de inferență pentru execuția în container
Securizarea Serviciilor AI Containerizate
- Minimizarea suprafeței de atac a containerelor
- Gestionarea secretelor și a fișierelor sensibile
- Strategii sigure de rețea și expunere a API-urilor
Tehnici de Implementare Portabilă
- Optimizarea imaginilor pentru portabilitate
- Asigurarea unor medii de execuție predictibile
- Gestionarea dependențelor pe diverse platforme
Implementarea și Testarea Locală
- Rularea serviciilor local cu Docker
- Depanarea containerelor de inferență
- Testarea performanței și fiabilității
Implementarea pe Servere și VM-uri în Cloud
- Adaptarea containerelor pentru medii remote
- Configurarea accesului securizat la servere
- Implementarea API-urilor de inferență pe VM-uri în cloud
Utilizarea Docker Compose pentru Sisteme AI Multi-Serviciu
- Orchestrarea inferenței cu componente de suport
- Gestionarea variabilelor de mediu și a configurațiilor
- Scalarea microserviciilor cu Compose
Monitorizarea și Întreținerea Serviciilor de Inferență AI
- Abordări de logare și observabilitate
- Detectarea defecțiunilor în pipeline-urile de inferență
- Actualizarea și versionarea modelelor în producție
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de bază ale învățării automate
- Experiență cu Python sau dezvoltare backend
- Familiaritate cu conceptele de bază ale containerizării
Publicul țintă
- Dezvoltatori
- Ingineri backend
- Echipe care implementează servicii AI
Mărturii (5)
OC este nou pentru noi și am învățat multe, iar laboratoarele au fost excelente
sharkey dollie
Curs - OpenShift 4 for Administrators
Tradus de catre o masina
Mulțumitor și la punct. Practică cu manipulare directă
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina
A oferat o bază solidă pentru Docker și Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Curs - Docker (introducing Kubernetes)
Tradus de catre o masina
Am apprécier în principal cunoștințele instruirii.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Curs - Docker, Kubernetes and OpenShift for Developers
Tradus de catre o masina