Schița de curs
Fundamente ale Sistemelor Agentice în Producție
- Arhitecturi agentice: bucle, instrumente, memorie și straturi de orchestrări
- Ciclul de viață al agenților: dezvoltare, implementare și funcționare continuă
- Provocări ale gestionării agenților la scară de producție
Modele de Infrastructură și Implementare
- Implementarea agenților în medii containerizate și în cloud
- Modele de scalare: scalare orizontală vs verticală, concurență și limitare
- Orchestrarea multi-agent și echilibrarea sarcinilor
Monitorizare și Observabilitate
- Metrici cheie: latență, rata de succes, utilizarea memoriei și adâncimea apelurilor agenților
- Trasarea activității agenților și a graficelor de apeluri
- Instrumentarea observabilității folosind Prometheus, OpenTelemetry și Grafana
Logging, Auditare și Conformitate
- Logging centralizat și colectarea structurată a evenimentelor
- Conformitate și auditabilitate în fluxurile de lucru agentice
- Proiectarea de căi de audit și mecanisme de reluare pentru depanare
Reglarea Performanței și Optimizarea Resurselor
- Reducerea supraîncărcării de inferență și optimizarea ciclurilor de orchestrări a agenților
- Caching de modele și încorporări ușoare pentru o recuperare mai rapidă
- Testarea încărcării și scenarii de stres pentru pipeline-uri de inteligență artificială
Controlul Costurilor și Guvernanță
- Înțelegerea factorilor de cost ai agenților: apeluri API, memorie, calcul și integrarea externă
- Urmărirea costurilor la nivel de agent și implementarea modelelor de facturare
- Politici de automatizare pentru a preveni împrăștierea agenților și consumul de resurse inactiv
Strategii CI/CD și Implementare pentru Agenți
- Integrarea pipeline-urilor agenților în sistemele CI/CD
- Testare, versiune și strategii de revenire pentru actualizări iterative ale agenților
- Implementări progresive și mecanisme de implementare sigură
Recuperarea din Defecțiuni și Ingineria Fiabilității
- Proiectare pentru toleranța la defecțiuni și degradare grațioasă
- Modele de reluare, timeout și întrerupător de circuit pentru fiabilitatea agenților
- Răspuns la incidente și cadre de post-mortem pentru operațiunile de inteligență artificială
Proiect Capstone
- Construiește și implementează un sistem de inteligență artificială agentică cu monitorizare completă și urmărire a costurilor
- Simulează încărcarea, măsoară performanța și optimizează utilizarea resurselor
- Prezintă arhitectura finală și panoul de monitorizare colegilor
Rezumat și Pași Următori
Cerințe
- Înțelegere solidă a MLOps și a sistemelor de învățare automată în producție
- Experiență cu implementări containerizate (Docker/Kubernetes)
- Familiaritate cu instrumente de optimizare a costurilor în cloud și de observabilitate
Publicul țintă
- Ingineri MLOps
- Ingineri de Fiabilitate a Site-urilor (SREs)
- Manageri de inginerie care supraveghează infrastructura de inteligență artificială
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina