Schița de curs
Fundamentele Implementării Hibride a AI
- Înțelegerea modelelor de implementare hibridă, cloud și edge
- Caracteristicile sarcinilor AI și constrângerile infrastructurii
- Alegerea topologiei de implementare potrivite
Containerizarea Sarcinilor AI cu Docker
- Construirea containerelor de inferență GPU și CPU
- Gestionarea imaginilor și registrelor sigure
- Implementarea mediilor reproducibile pentru AI
Implementarea Serviciilor AI în Medii de Cloud
- Rularea inferenței pe AWS, Azure și GCP prin Docker
- Aprovizionarea resurselor de calcul în cloud pentru servirea modelelor
- Securizarea punctelor finale AI bazate pe cloud
Tehnici de Implementare Edge și On-Prem
- Rularea AI pe dispozitive IoT, gateway-uri și microservere
- Runtimes ușoare pentru medii edge
- Gestionarea conectivității intermitente și a persistenței locale
Rețele Hibride și Conectivitate Sigură
- Tuneluri sigure între edge și cloud
- Certificate, secrete și acces bazat pe token-uri
- Optimizarea performanței pentru inferență cu latență scăzută
Orchestrarea Implementărilor Distribuite AI
- Utilizarea K3s, K8s sau orchestrării ușoare pentru setup-uri hibride
- Descoperirea serviciilor și planificarea sarcinilor
- Automatizarea strategiilor de implementare în multiple locații
Monitorizarea și Observabilitatea pe Diverse Medii
- Urmărirea performanței inferenței în diverse locații
- Logging centralizat pentru sistemele AI hibride
- Detecția defecțiunilor și recuperarea automată
Scalarea și Optimizarea Sistemelor AI Hibride
- Scalarea clusterelor edge și a nodurilor de cloud
- Optimizarea utilizării lățimii de bandă și a caching-ului
- Echilibrarea încărcăturii de calcul între cloud și edge
Rezumat și Pași Următori
Cerințe
- Înțelegerea conceptelor de containerizare
- Experiență cu operațiuni în linia de comandă Linux
- Familiaritate cu fluxurile de lucru pentru implementarea modelelor AI
Publicul Țintă
- Arhitecți de infrastructură
- Ingineri de Fiabilitate a Site-urilor (SREs)
- Dezvoltatori Edge și IoT
Mărturii (1)
Formarea a îndeplinit așteptările prin explicațiile clare, exemplele din lumea reală și laboratoarele practice care au făcut temele complexe ușor de înțeles. A oferit insight-uri valoroase cu privire la orchestrarea contaiнерelor, securitatea, scalabilitatea și multe alte subiecte avansate.
Anna Wyszomirska-Szmyd - Akamai
Curs - Docker and Kubernetes advanced
Tradus de catre o masina