Schița de curs

Fundamentele Implementării Hibride a AI

  • Înțelegerea modelelor de implementare hibridă, cloud și edge
  • Caracteristicile sarcinilor AI și constrângerile infrastructurii
  • Alegerea topologiei de implementare potrivite

Containerizarea Sarcinilor AI cu Docker

  • Construirea containerelor de inferență pentru GPU și CPU
  • Gestionarea imaginilor și registrelor securizate
  • Implementarea de medii reproducibile pentru AI

Implementarea Serviciilor AI în Medii de Cloud

  • Rularea inferenței pe AWS, Azure și GCP prin Docker
  • Aprovizionarea resurselor de calcul în cloud pentru servirea modelelor
  • Securizarea punctelor finale AI bazate pe cloud

Tehnici de Implementare Edge și On-Prem

  • Rularea AI pe dispozitive IoT, gateway-uri și microservere
  • Runtimes ușoare pentru medii edge
  • Gestionarea conectivității intermitente și a persistenței locale

Rețele Hibride și Conectivitate Securizată

  • Tuneluri securizate între edge și cloud
  • Certificate, secrete și acces bazat pe token
  • Optimizarea performanței pentru inferență cu latență scăzută

Orchestrarea Implementărilor Distribuite AI

  • Utilizarea K3s, K8s sau a orchestrării ușoare pentru configurații hibride
  • Descoperirea serviciilor și planificarea sarcinilor
  • Automatizarea strategiilor de implementare în multiple locații

Monitorizare și Observabilitate în Medii Diverse

  • Urmărirea performanței inferenței în diferite locații
  • Logare centralizată pentru sisteme AI hibride
  • Detecția defecțiunilor și recuperarea automată

Scalarea și Optimizarea Sistemelor Hibride AI

  • Scalarea clusterelor edge și a nodurilor de cloud
  • Optimizarea utilizării lățimii de bandă și a caching-ului
  • Echilibrarea încărcăturii de calcul între cloud și edge

Rezumat și Pași Următori

Cerințe

  • Înțelegerea conceptelor de containerizare
  • Experiență cu operațiuni pe linia de comandă Linux
  • Familiaritate cu fluxurile de lucru de implementare a modelelor AI

Publicul țintă

  • Arhitecți de infrastructură
  • Ingineri de Fiabilitate a Site-urilor (SREs)
  • Dezvoltatori Edge și IoT
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (5)

Cursuri viitoare

Categorii înrudite