Intrati in legatura

Schița de curs

Fundamente ale Sistemelor Agentice în Producție

  • Arhitecturi agentice: bucle, instrumente, memorie și straturi de orchestrări
  • Ciclul de viață al agenților: dezvoltare, implementare și funcționare continuă
  • Provocări ale gestionării agenților la scară de producție

Modele de Infrastructură și Implementare

  • Implementarea agenților în medii containerizate și în cloud
  • Modele de scalare: scalare orizontală vs verticală, concurență și limitare
  • Orchestrarea multi-agent și echilibrarea sarcinilor

Monitorizare și Observabilitate

  • Metrici cheie: latență, rata de succes, utilizarea memoriei și adâncimea apelurilor agenților
  • Trasarea activității agenților și a graficelor de apeluri
  • Instrumentarea observabilității folosind Prometheus, OpenTelemetry și Grafana

Logging, Auditare și Conformitate

  • Logging centralizat și colectarea structurată a evenimentelor
  • Conformitate și auditabilitate în fluxurile de lucru agentice
  • Proiectarea de căi de audit și mecanisme de reluare pentru depanare

Reglarea Performanței și Optimizarea Resurselor

  • Reducerea supraîncărcării de inferență și optimizarea ciclurilor de orchestrări a agenților
  • Caching de modele și încorporări ușoare pentru o recuperare mai rapidă
  • Testarea încărcării și scenarii de stres pentru pipeline-uri de inteligență artificială

Controlul Costurilor și Guvernanță

  • Înțelegerea factorilor de cost ai agenților: apeluri API, memorie, calcul și integrarea externă
  • Urmărirea costurilor la nivel de agent și implementarea modelelor de facturare
  • Politici de automatizare pentru a preveni împrăștierea agenților și consumul de resurse inactiv

Strategii CI/CD și Implementare pentru Agenți

  • Integrarea pipeline-urilor agenților în sistemele CI/CD
  • Testare, versiune și strategii de revenire pentru actualizări iterative ale agenților
  • Implementări progresive și mecanisme de implementare sigură

Recuperarea din Defecțiuni și Ingineria Fiabilității

  • Proiectare pentru toleranța la defecțiuni și degradare grațioasă
  • Modele de reluare, timeout și întrerupător de circuit pentru fiabilitatea agenților
  • Răspuns la incidente și cadre de post-mortem pentru operațiunile de inteligență artificială

Proiect Capstone

  • Construiește și implementează un sistem de inteligență artificială agentică cu monitorizare completă și urmărire a costurilor
  • Simulează încărcarea, măsoară performanța și optimizează utilizarea resurselor
  • Prezintă arhitectura finală și panoul de monitorizare colegilor

Rezumat și Pași Următori

Cerințe

  • Înțelegere solidă a MLOps și a sistemelor de învățare automată în producție
  • Experiență cu implementări containerizate (Docker/Kubernetes)
  • Familiaritate cu instrumente de optimizare a costurilor în cloud și de observabilitate

Publicul țintă

  • Ingineri MLOps
  • Ingineri de Fiabilitate a Site-urilor (SREs)
  • Manageri de inginerie care supraveghează infrastructura de inteligență artificială
 21 Ore

Numărul de participanți


Pret per participant

Mărturii (3)

Cursuri viitoare

Categorii înrudite