Schița de curs

Fundamentele Implementării Hibride a AI

  • Înțelegerea modelelor de implementare hibride, cloud și edge
  • Caracteristicile sarcinilor AI și constrângerile infrastructurii
  • Alegerea topologiei de implementare potrivite

Containerizarea Sarcinilor AI cu Docker

  • Construirea containerelor de inferință GPU și CPU
  • Gestionarea imaginilor sigure și a registriilor
  • Implementarea mediilor reproducibile pentru AI

Implementarea Serviciilor AI în Medii Cloud

  • Rularea inferinței pe AWS, Azure și GCP prin Docker
  • Alocarea resurselor cloud pentru servirea modelelor
  • Securizarea punctelor finale AI bazate pe cloud

Tehnici de Implementare Edge și On-Prem

  • Rularea AI pe dispozitive IoT, gateways și microservers
  • Medii de rulare ușoare pentru mediile edge
  • Gestionarea conectivității intermittente și a persistenței locale

Rețele Hibride și Conectivitate Sigură

  • Tunelarea sigură între edge și cloud
  • Certificare, secrete și acces bazat pe token
  • Optimizarea performanței pentru inferința cu latencie scăzută

Orchestarea Implementărilor AI Distribuite

  • Utilizarea K3s, K8s sau orchestrare ușoară pentru setările hibride
  • Descoperirea serviciilor și planificarea sarcinilor de lucru
  • Automatizarea strategiilor de implementare multi-locatie

Monitorizarea și Observabilitatea în Medii Diverse

  • Monitorizarea performanței inferinței în diferite locații
  • Jurnalizare centralizată pentru sistemele hibride AI
  • Detectarea eșecurilor și recuperarea automată

Scalarea și Optimizarea Sistemelor Hibride AI

  • Scalarea clusterelor edge și nodurilor cloud
  • Optimizarea utilizării bandei de frecvență și caching-ul
  • Balansarea sarcinilor de calcul între cloud și edge

Rezumat și Următorii Pași

Cerințe

  • Înțelegerea conceptelor containerizării
  • Experiența cu operațiunile liniei de comandă Linux
  • Familiaritatea cu fluxurile de lucru de implementare a modelelor AI

Audiență

  • Arhitecți de infrastructură
  • Ingineri de Fiabilitate a Site-ului (SREs)
  • Dezvoltatori Edge și IoT
 21 ore

Numărul de participanți


Pret per participant

Mărturii (5)

Cursuri viitoare

Categorii înrudite