Schița de curs
Fundamentele Implementării Hibride a AI
- Înțelegerea modelelor de implementare hibridă, cloud și edge
- Caracteristicile sarcinilor AI și constrângerile infrastructurii
- Alegerea topologiei de implementare potrivite
Containerizarea Sarcinilor AI cu Docker
- Construirea containerelor de inferență pentru GPU și CPU
- Gestionarea imaginilor și registrelor securizate
- Implementarea de medii reproducibile pentru AI
Implementarea Serviciilor AI în Medii de Cloud
- Rularea inferenței pe AWS, Azure și GCP prin Docker
- Aprovizionarea resurselor de calcul în cloud pentru servirea modelelor
- Securizarea punctelor finale AI bazate pe cloud
Tehnici de Implementare Edge și On-Prem
- Rularea AI pe dispozitive IoT, gateway-uri și microservere
- Runtimes ușoare pentru medii edge
- Gestionarea conectivității intermitente și a persistenței locale
Rețele Hibride și Conectivitate Securizată
- Tuneluri securizate între edge și cloud
- Certificate, secrete și acces bazat pe token
- Optimizarea performanței pentru inferență cu latență scăzută
Orchestrarea Implementărilor Distribuite AI
- Utilizarea K3s, K8s sau a orchestrării ușoare pentru configurații hibride
- Descoperirea serviciilor și planificarea sarcinilor
- Automatizarea strategiilor de implementare în multiple locații
Monitorizare și Observabilitate în Medii Diverse
- Urmărirea performanței inferenței în diferite locații
- Logare centralizată pentru sisteme AI hibride
- Detecția defecțiunilor și recuperarea automată
Scalarea și Optimizarea Sistemelor Hibride AI
- Scalarea clusterelor edge și a nodurilor de cloud
- Optimizarea utilizării lățimii de bandă și a caching-ului
- Echilibrarea încărcăturii de calcul între cloud și edge
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de containerizare
- Experiență cu operațiuni pe linia de comandă Linux
- Familiaritate cu fluxurile de lucru de implementare a modelelor AI
Publicul țintă
- Arhitecți de infrastructură
- Ingineri de Fiabilitate a Site-urilor (SREs)
- Dezvoltatori Edge și IoT
Mărturii (5)
OC este nou pentru noi și am învățat multe, iar laboratoarele au fost excelente
sharkey dollie
Curs - OpenShift 4 for Administrators
Tradus de catre o masina
Mulțumitor și la punct. Practică cu manipulare directă
Gil Matias - FINEOS
Curs - Introduction to Docker
Tradus de catre o masina
Laboratoare și discuții tehnice.
Dinesh Panchal - AXA XL
Curs - Advanced Docker
Tradus de catre o masina
A oferat o bază solidă pentru Docker și Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Curs - Docker (introducing Kubernetes)
Tradus de catre o masina
Am apprécier în principal cunoștințele instruirii.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Curs - Docker, Kubernetes and OpenShift for Developers
Tradus de catre o masina