Intrati in legatura

Schița de curs

Fundamentele implementării IA hibride

  • Înțelegerea modelelor de implementare hybrid, cloud și edge
  • Caracteristicile sarcinilor de lucru AI și constrângerile infrastructurii
  • Alegerea topologiei de implementare potrivite

Containerizarea sarcinilor de lucru IA cu Docker

  • Construirea de containere de inferență GPU și CPU
  • Gestionarea imaginilor și registrelor securizate
  • Implementarea mediilor reproductibile pentru IA

Implementarea serviciilor IA în medii cloud

  • Executarea inferenței pe AWS, Azure și GCP prin Docker
  • Provisionarea puterii de calcul cloud pentru servirea modelelor
  • Securizarea punctelor finale AI bazate pe cloud

Tehnici de implementare Edge și On-Premise

  • Executarea IA pe dispozitive IoT, gateway-uri și microservere
  • Rurntime-uri ușoare pentru medii edge
  • Gestionarea conectivității intermitente și a persistenței locale

Rețea hibridă și conectivitate securizată

  • Tunelare securizată între edge și cloud
  • Certificate, secrete și acces bazat pe tokenuri
  • Optimizarea performanței pentru inferența cu latență redusă

Orchestrarea implementărilor IA distribuite

  • Folosirea K3s, K8s sau orchestare ușoară pentru configurații hybrid
  • Descoperirea serviciilor și programarea sarcinilor de lucru
  • Automatizarea strategiilor de desfășurare în multiple locații

Monitorizare și observabilitate pe mediile implicate

  • Urmărirea performanței inferenței între locații
  • Jurnalizare centralizată pentru sistemele IA hibride
  • Detectarea defecțiunilor și recuperare automată

Scalare și optimizarea sistemelor IA hibride

  • Scalarea clusterelor edge și a nodurilor cloud
  • Optimizarea utilizării lățimii de bandă și a cache-ului
  • Echilibrarea sarcinilor de calcul între cloud și edge

Sinteză și pași următori

Cerințe

  • Înțelegerea conceptelor de containerizare
  • Experiență cu operațiuni în linia de comandă Linux
  • Familiaritate cu fluxurile de lucru de implementare a modelelor IA

Public țintă

  • Arhitecți de infrastructură
  • Ingineri de Fiabilitate în Site (SRE)
  • Dezvoltatori Edge și IoT
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (1)

Cursuri viitoare

Categorii înrudite