Schița de curs
Introducere în Containerizarea Accelerată de GPU
- Înțelegerea utilizării GPU în fluxurile de lucru de învățare profundă
- Cum Docker sprijină sarcinile de lucru bazate pe GPU
- Considerații cheie de performanță
Instalarea și Configurarea NVIDIA Container Toolkit
- Configurarea driverelor și compatibilității CUDA
- Validarea accesului GPU în interiorul containerelor
- Configurarea mediului de runtime
Construirea Imaginilor Docker Activate de GPU
- Utilizarea imaginilor de bază CUDA
- Împachetarea cadrelor AI în containere pregătite pentru GPU
- Gestionarea dependențelor pentru antrenament și inferență
Rularea Sarcinilor de Lucru AI Accelerate de GPU
- Executarea joburilor de antrenament folosind GPU
- Gestionarea sarcinilor de lucru cu mai multe GPU
- Monitorizarea utilizării GPU
Optimizarea Performanței și Alocării Resurselor
- Limitarea și izolarea resurselor GPU
- Optimizarea memoriei, dimensiunilor loturilor și plasării dispozitivelor
- Reglarea performanței și diagnosticarea
Inferență Containerizată și Servirea Modelelor
- Construirea containerelor pregătite pentru inferență
- Servirea sarcinilor de lucru de încărcare mare pe GPU
- Integrarea rulatoarelor de modele și API-uri
Scalarea Sarcinilor de Lucru GPU cu Docker
- Strategii pentru antrenament distribuit pe GPU
- Scalarea microserviciilor de inferență
- Coordonarea sistemelor AI multi-container
Securitatea și Fiabilitatea Containerelor Activate de GPU
- Asigurarea accesului sigur la GPU în medii partajate
- Consolidarea imaginilor containerelor
- Gestionarea actualizărilor, versiunilor și compatibilității
Rezumat și Pași Următori
Cerințe
- Înțelegerea elementelor de bază ale învățării profunde
- Experiență cu Python și cadre comune AI
- Familiaritate cu conceptele de bază ale containerizării
Publicul Țintă
- Ingineri de învățare profundă
- Echipe de cercetare și dezvoltare
- Antrenori de modele AI
Mărturii (2)
Cum instrucționează formatorii cunoștințele cu atâta eficacitate
Vu Thoai Le - Reply Polska sp. z o. o.
Curs - Certified Kubernetes Administrator (CKA) - exam preparation
Tradus de catre o masina
instrutorul avea o mulțime de cunoștințe și răbdare de împărtășit cu noi
Bogdan Olaru
Curs - Introduction to Docker
Tradus de catre o masina