Schița de curs
Fundamente de arhitectură pentru sisteme AI
- Straturi, granițe și separarea responsabilităților
- Porturi și adaptatori aplicați componentelor AI
- Scenarii pentru atribute de calitate ale funcțiilor AI
- Registre de decizii arhitecturale ca instrument de guvernare
Evoluarea unei aplicații existente
- Modernizare incrementală în loc de rewrite
- Plecarea serviciilor AI alături de un monolit existent
- Paterene „strangler” și straturi de anti-corupție
- Puncte de integrare pentru API-uri și date existente
Patere de arhitectură pentru integrarea LLM
- Gateway-ul de modele ca graniță de abstracție
- Integrare sincronă, asincronă și streaming
- Fallback, degradare și failover al providerului
- Configurația prompt-urilor și a modelelor ca active versionate
Contracte, API-uri și schimbul de date
- Scheme de ieșire structurate și validare
- Idempotență, retry-uri și limitarea ratei
- Bugete de latență și orchestrarea timeout-urilor
- Costul per cerere ca constrângere arhitecturală
Arhitectură RAG cap la cap
- Pipeline de ingestie, chunking și embedding
- Etape de indexare, recuperare, reranking și generare
- Plecarea recucerii față de serviciile aplicației
- Trade-offs și moduri de eșec la fiecare etapă
Baze de date vectoriale și design al recuperării
- Stocare vectorială gestionată vs. self-hosted
- Căutare densă, sparse și hibridă
- Filtrare metadata și izolare tenant
- Strategie de re-embedding atunci când modelele se schimbă
Calitate a recuperării, grounding și evaluare
- Seturi de evaluare construite din interogări reale
- Metrici pentru calitatea recuperării și a răspunsurilor
- Citare, grounding și conținerea halucinațiilor
- Feedback loops înapoi în index
Arhitecturi de agenți
- Bucloa agentului și invocarea instrumentelor
- Fluxuri de lucru deterministe vs. planificatori autonomi
- Cazuri în care un agent este răspunsul greșit
- Delimitarea responsabilităților și stării agentului
Sisteme multi-agent și orchestrare
- Topologii supervisor și orchestrator
- Protocoluri de handoff și contracte de mesaje
- Memorie partajată și managementul contextului
- Compararea framework-urilor pe criterii arhitecturale
Comunicare între servicii și protocoale de instrumente
- Coordinare bazată pe evenimente și cozi
- Expozitia instrumentelor prin protocoale standard
- Sagas, compensație și tranzacții de lungă durată
- Observabilitate pe parcursul salturilor între servicii
Agenți AI în fluxul de dezvoltare
- Agenți de codare în pipeline-ul de livrare
- Dezvoltare condusă de specificații și gate-uri de revizuire
- Generarea de teste și verificări automate de calitate
- Guardrails care păstrează controlul arhitectural
Guvernare și calitate software
- Revizuirea design-ului pentru funcții AI
- Managementul modificărilor de modele și prompt-uri
- Evaluarea de regresie ca etapă în pipeline
- Proprietate, politici și trasee de aprobare
Securitate, confidențialitate și guvernarea datelor
- Injectarea prompt-urilor și apărare în profunzime
- Secrete, controlul accesului și principiul privilegiului minim
- Reședința datelor, datele personale și retenția
- Auditabilitate și controale human-in-the-loop
Scalabilitate, costuri și observabilitate
- Tracing pe parcursul lanțurilor de agenți
- Telemetrie pentru tokeni și costuri
- Caching și optimizarea latenței
- Niveluri de serviciu și răspunsul la incidente pentru servicii AI
Capstone: Arhitectură pentru o soluție AI-powered
- Vizualizări de context, componente și deployment
- Design al recuperării și al orchestrării agenților
- Plan de securitate, guvernare și costuri
- Revizuire de către colegi, critică și roadmap de migrație
Cerințe
- Experiență în proiectarea și mentenanța sistemelor software de producție
- cunoștințe de lucru cu API-uri REST și integrarea serviciilor
- Familiaritate cu bazele de date relaționale și modelarea datelor
- Expoziție de bază la instrumente sau API-uri bazate pe LLM
Public țintă
- Arhitecți de software
- Lideri tehnici și ingineri senior
- Managers de inginerie responsabili de deciziile arhitecturale
Mărturii (1)
Am dobândit cunoștințe despre biblioteca Streamlit din Python și cu siguranță voi încerca să o folosesc pentru a îmbunătăți aplicațiile din echipa mea, care sunt realizate în R Shiny.
Michal Maj - XL Catlin Services SE (AXA XL)
Curs - GitHub Copilot for Developers
Tradus de catre o masina