Schița de curs
Fundamentele sistemelor agentice în producție
- Arhitecturi agentice: loop-uri, tool-uri, memorie și straturi de orchestrare
- Ciclul de viață al agenților: dezvoltare, deploy și operațiune continuă
- Provocările managementului agenților la scară de producție
Infrastructură și modele de deploy
- Deploy-ul agenților în medii containerizate și în cloud
- Modele de scalare: scalare orizontală vs. verticală, concurență și throttling
- Orchestrarea multi-agent și echilibrarea workload-ului
Monitorizare și observabilitate
- Metrici cheie: latență, rata de succes, utilizarea memoriei și adâncimea apelurilor agentului
- Tracing-ul activității agenților și al grafurilor de apeluri
- Instrumentarea observabilității folosind Prometheus, OpenTelemetry și Grafana
Logare, auditare și conformitate
- Logare centralizată și colectarea structurată a evenimentelor
- Conformitatea și auditabilitatea în fluxurile de lucru agentice
- Proiectarea urmelor de audit și a mecanismelor de replay pentru debugging
Optimizarea performanței și a resurselor
- Reducerea overhead-ului de inferență și optimizarea ciclurilor de orchestrare ale agenților
- Cach-ul modelelor și embeddings ușoare pentru o recuperare mai rapidă
- Testele de load și scenariile de stres pentru pipeline-urile de AI
Controlul costurilor și guvernanță
- Înțelegerea factorilor de cost ai agenților: apeluri API, memorie, compute și integrări externe
- Urmărire costuri la nivel de agent și implementarea modelelor de chargeback
- Politici de automatizare pentru prevenirea „agent sprawl” și a consumului de resurse idle
CI/CD și strategii de rollout pentru agenți
- Integrarea pipeline-urilor de agenți în sisteme CI/CD
- Testare, versionare și strategii de rollback pentru actualizări iterative ale agenților
- Rollout-uri progresive și mecanisme de deploy sigure
Recuperarea în caz de eroare și ingineria fiabilității
- Proiectare pentru toleranță la erori și degradare grațioasă
- Modele de retry, timeout și circuit breaker pentru fiabilitatea agenților
- Răspunsul la incidente și framework-urile de post-mortem pentru operațiuni de AI
Proiectul final (Capstone)
- Construirea și deploy-ul unui sistem de AI agentic cu monitorizare completă și track de costuri
- Simularea load-ului, măsurarea performanței și optimizarea utilizării resurselor
- Prezentarea arhitecturii finale și a dashboard-ului de monitorizare colegilor
Rezumat și pașii următori
Cerințe
- Înțelegere solidă a MLOps și a sistemelor de machine learning în producție
- Experiență în deploy-uri containerizate (Docker/Kubernetes)
- Familiaritate cu optimizarea costurilor în cloud și cu instrumentele de observabilitate
Public țintă
- Ingineri MLOps
- Ingineri Site Reliability (SRE)
- Manageri de inginerie care supraveghează infrastructura de AI
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
