Schița de curs
Ziua 1
Anatomia unui Agent AI Modern
Dincolo de roboții de chat, agenți ca sisteme autonome de raționare și acțiune
Paradigme ale agenților: reactivi, proactivi, hibrizi și orientați spre obiective
Componente esențiale: percepție, planificare, memorie, utilizare de unelte, acțiune
Compromisuri de proiectare între sisteme cu un singur agent și multi-agent
Framework-uri pentru Agenți și Stiva Modernă
LangChain, LlamaIndex, AutoGen, CrewAI și compromisurile lor
Comparație cu framework-uri clasice precum JADE și SPADE
Alegerea unui framework bazat pe cerințele de producție
Apelarea uneltelor, apelarea funcțiilor și ieșiri structurate
Practică: construirea unui agent Python cu apeluri de unelte
Arhitecturi de Sisteme Multi-Agent
Proiecte MAS centralizate, descentralizate, hibride și stratificate
FIPA ACL, transmiterea mesajelor și echivalente moderne
Modele de coordonare: planificare, negociere, sincronizare
Comportament emergent și auto-organizare în populațiile de agenți
Luarea Deciziilor și Învățarea în Agenți
Teoria jocurilor pentru interacțiuni cooperative și competitive ale agenților
Învățarea prin întărire în medii multi-agent
Transferul de cunoștințe și partajarea între agenți
Rezolvarea conflictelor și încrederea între agenții coordonați
Ziua 2
Fundamente Multi-Modale pentru Agenți
IA multi-modală ca flux de lucru unificat pe text, imagine, vorbire și video
Modele multi-modale de top: GPT-4 Vision, Gemini, Claude, Whisper
Tehnici de fuziune pentru combinarea modalităților în bucla de raționament a agentului
Compromisuri între latență, cost și acuratețe în fluxurile multi-modale
Construirea Stratului de Percepție
Prelucrarea imaginilor pentru agenți: clasificare, descriere, detectare de obiecte
Recunoașterea vorbirii cu Whisper ASR și transcriere în flux
Sinteza text-la-vorbire și interacțiune vocală naturală
Conectarea ieșirilor de percepție la raționamentul bazat pe LLM și selectarea uneltelor
Practică - Construirea unui Agent Multi-Modal în Python
Definirea sarcinii agentului, ferestrei de context și inventarului de unelte
Conectarea API-urilor GPT-4 Vision și Whisper de la cap la cap
Implementarea memoriei, stării și gestionării conversației
Adăugarea apelurilor de unelte care produc efecte secundare în lumea reală în siguranță
Practică - Orchestrarea unui Sistem Multi-Agent
Compunerea agenților specializați cu AutoGen sau CrewAI
Definirea rolurilor, responsabilităților și protocoalelor de comunicare inter-agent
Alocarea resurselor și coordonarea într-un mediu simulat
Înregistrarea raționamentului, apelurilor de unelte și deciziilor agenților pentru inspecție și audit
Ziua 3
Suprafața de Atac a Agenților AI de Producție
Ce face agenții AI unic vulnerabili comparativ cu software-ul tradițional
Suprafața de atac: straturi de date, model, prompt, unelte, ieșire și interfață
Modelarea amenințărilor pentru sistemele bazate pe agenți cu utilizare autonomă de unelte
Compararea practicilor de securitate cibernetică AI cu cele tradiționale
Atacuri Adversariale - Practică
Exemple adverse și metode de perturbare: FGSM, PGD, DeepFool
Scenarii de atac white-box versus black-box
Atacuri de inversare a modelului și inferență de apartenență
Intoxicația datelor și injecția de backdoor în timpul antrenării
Injectarea prompturilor, jailbreaking și utilizarea greșită a uneltelor în agenții bazati pe LLM
Tehnici Defensive și Consolidarea Modelelor
Strategii de antrenament adversar și augmentare a datelor
Distilare defensivă și alte tehnici de robustețe
Preprocesarea intrărilor, mascarea gradientului și regularizarea
Confidențialitate diferențială, injecția de zgomot și bugete de confidențialitate
Învățare federată și agregare securizată pentru antrenament distribuit
Practică cu Adversarial Robustness Toolbox
Simularea atacurilor împotriva agentului multi-modal construit în Ziua 2
Măsurarea robusteței sub perturbare și cuantificarea degradării
Aplicarea defensivelor iterativ și reevaluarea ratelor de succes ale atacurilor
Testarea de stres a căilor de apelare a uneltelor și vectorilor de injecție a prompturilor
Ziua 4
Cadre de Management al Riscului pentru AI
Cadrul de Management al Riscului AI NIST: guvernare, cartografiere, măsurare, gestionare
ISO/IEC 42001 și standarde emergente specifice AI
Maparea riscului AI la cadrele GRC enterprise existente
Cerințe de responsabilitate, auditabilitate și documentare AI
Conformitate Reglementară pentru Sisteme Agențiale
Legea UE privind IA: niveluri de risc, utilizări interzise și obligații pentru sistemele de risc ridicat
Implicațiile GDPR și CCPA pentru fluxurile de date ale agenților
Ordonanța Executivă SUA privind IA Sigură, Securizată și De Încredere
Ghiduri specifice sectoarelor financiar, de sănătate și servicii publice
Riscul terților și utilizarea uneltelor AI de la furnizori
Etică, Părtinire și Explicabilitate
Detectarea și atenuarea părtinirii în percepția și raționamentul agenților
Explicabilitatea și transparența ca proprietăți relevante pentru securitate
Corectitudine, prejudiciu în aval și implementare responsabilă
Proiectarea comportamentului agenților inclusivi și auditabili
Implementarea în Producție, Monitorizare și Răspuns la Incidente
Modele de implementare securizată pentru sisteme cu un singur agent și multi-agent
Monitorizare continuă pentru drift, anomalii și abuz
Înregistrări, urme de audit și pregătire forensică pentru acțiunile agenților
Playbook-uri de răspuns la incidente de securitate AI și recuperare
Studii de caz ale breșelor AI din lumea reală și lecții învățate
Capstone și Sinteză
Revizuirea sistemului multi-modal multi-agent construit pe parcursul cursului
Revizuirea pipeline-ului de la cap la cap: proiectare, construire, securizare, guvernare, implementare
Autoevaluare a sistemului în raport cu funcțiile NIST AI RMF
Perspective viitoare asupra tendințelor emergente în agenții AI și securitatea AI
Rezumat și Pași Următori
Cerințe
Publicul țintă
Ingineri și arhitecți AI care construiesc sisteme agențiale pentru utilizare în producție. Profesioniști în domeniul securității cibernetice, riscului și conformității responsabili de asigurarea IA în industrii reglementate precum finanțe, sănătate și consultanță. Dezvoltatori seniori și lideri de soluții care integrează capacități multi-modale și multi-agent în platforme enterprise.
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
