Intrati in legatura

Schița de curs

Fundamentele Implementării Hibride a AI

  • Înțelegerea modelelor de implementare hibridă, cloud și edge
  • Caracteristicile sarcinilor AI și constrângerile infrastructurii
  • Alegerea topologiei de implementare potrivite

Containerizarea Sarcinilor AI cu Docker

  • Construirea containerelor de inferență GPU și CPU
  • Gestionarea imaginilor și registrelor sigure
  • Implementarea mediilor reproducibile pentru AI

Implementarea Serviciilor AI în Medii de Cloud

  • Rularea inferenței pe AWS, Azure și GCP prin Docker
  • Aprovizionarea resurselor de calcul în cloud pentru servirea modelelor
  • Securizarea punctelor finale AI bazate pe cloud

Tehnici de Implementare Edge și On-Prem

  • Rularea AI pe dispozitive IoT, gateway-uri și microservere
  • Runtimes ușoare pentru medii edge
  • Gestionarea conectivității intermitente și a persistenței locale

Rețele Hibride și Conectivitate Sigură

  • Tuneluri sigure între edge și cloud
  • Certificate, secrete și acces bazat pe token-uri
  • Optimizarea performanței pentru inferență cu latență scăzută

Orchestrarea Implementărilor Distribuite AI

  • Utilizarea K3s, K8s sau orchestrării ușoare pentru setup-uri hibride
  • Descoperirea serviciilor și planificarea sarcinilor
  • Automatizarea strategiilor de implementare în multiple locații

Monitorizarea și Observabilitatea pe Diverse Medii

  • Urmărirea performanței inferenței în diverse locații
  • Logging centralizat pentru sistemele AI hibride
  • Detecția defecțiunilor și recuperarea automată

Scalarea și Optimizarea Sistemelor AI Hibride

  • Scalarea clusterelor edge și a nodurilor de cloud
  • Optimizarea utilizării lățimii de bandă și a caching-ului
  • Echilibrarea încărcăturii de calcul între cloud și edge

Rezumat și Pași Următori

Cerințe

  • Înțelegerea conceptelor de containerizare
  • Experiență cu operațiuni în linia de comandă Linux
  • Familiaritate cu fluxurile de lucru pentru implementarea modelelor AI

Publicul Țintă

  • Arhitecți de infrastructură
  • Ingineri de Fiabilitate a Site-urilor (SREs)
  • Dezvoltatori Edge și IoT
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (2)

Cursuri viitoare

Categorii înrudite