Schița de curs
Ziua 1
Anatomia unui Agent AI Modern
Dincolo de roboții de chat, agenții ca sisteme autonome de raționare și acțiune
Paradigme de agenți reactivi, proactivi, hibrizi și orientați spre obiective
Componente de bază: percepție, planificare, memorie, utilizarea uneltelor, acțiune
Compromisuri de proiectare între agenți unici și multi-agent
Framework-uri pentru Agenți și Stiva Modernă
LangChain, LlamaIndex, AutoGen, CrewAI și compromisurile lor
Comparație cu framework-uri clasice precum JADE și SPADE
Alegerea unui framework pe baza cerințelor de producție
Apelarea uneltelor, apelarea funcțiilor și ieșiri structurate
Laborator practic: construirea unui agent Python cu apeluri de unelte
Arhitecturi de Sisteme Multi-Agent
Designuri MAS centralizate, descentralizate, hibride și stratificate
FIPA ACL, transmiterea mesajelor și echivalente moderne
Modele de coordonare: planificare, negociere, sincronizare
Comportament emergent și auto-organizare în populații de agenți
Luarea Deciziilor și Învățarea în Agenți
Teoria jocurilor pentru interacțiuni cooperative și competitive între agenți
Învățarea prin reforțare în medii multi-agent
Transferul de cunoștințe și partajarea acestora între agenți
Rezolvarea conflictelor și încrederea între agenții coordonați
Ziua 2
Bazele Multi-Modale pentru Agenți
AI multi-modală ca flux de lucru unificat pe text, imagini, vorbire și video
Modele multi-modale de top: GPT-4 Vision, Gemini, Claude, Whisper
Tehnici de fuziune pentru combinarea modalităților în bucla de raționament a unui agent
Compromisuri între latență, cost și acuratețe în fluxurile multi-modale
Construirea Stratului de Percepție
Procesarea imaginilor pentru agenți: clasificare, descriere, detectare de obiecte
Recunoașterea vorbirii cu Whisper ASR și transcriere în flux
Sinteză text-vorbire și interacțiune vocală naturală
Conectarea ieșirilor de percepție la raționamentul bazat pe LLM și selectarea uneltelor
Laborator Practic - Construirea unui Agent Multi-Modal în Python
Definirea sarcinii agentului, ferestrei de context și inventarului de unelte
Conectarea API-urilor GPT-4 Vision și Whisper end-to-end
Implementarea memoriei, stării și gestionării conversației
Adăugarea apelurilor de unelte care produc efecte secundare în lumea reală în siguranță
Laborator Practic - Orchestrarea unui Sistem Multi-Agent
Compunerea agenților specializați cu AutoGen sau CrewAI
Definirea rolurilor, responsabilităților și protocoalelor de comunicare inter-agent
Alocarea resurselor și coordonarea într-un mediu simulat
Înregistrarea raționamentului, apelurilor de unelte și deciziilor agenților pentru inspecție și audit
Ziua 3
Suprafața de Atac a Agenților AI de Producție
Ce face agenții AI unic vulnerabili comparativ cu software-ul tradițional
Suprafața de atac: straturi de date, model, prompt, unelte, ieșiri și interfețe
Modelarea amenințărilor pentru sisteme bazate pe agenți cu utilizare autonomă de unelte
Compararea practicilor de securitate cibernetică AI cu cele tradiționale
Atacuri Adversare - Laborator Practic
Exemple adverse și metode de perturbare: FGSM, PGD, DeepFool
Scenarii de atac white-box versus black-box
Atacuri de inversare a modelului și inferență de apartenență
Otrăvirea datelor și injecția de backdoor în timpul antrenării
Injecția de prompturi, jailbreaking și utilizarea greșită a uneltelor în agenții bazati pe LLM
Tehnici Defensive și Consolidarea Modelelor
Strategii de antrenament adversar și augmentare a datelor
Distilare defensivă și alte tehnici de robustețe
Preprocesarea intrărilor, mascarea gradientului și regularizare
Confidențialitate diferențială, injecție de zgomot și bugete de confidențialitate
Învățarea federată și agregarea securizată pentru antrenament distribuit
Laborator Practic cu Adversarial Robustness Toolbox
Simularea atacurilor împotriva agentului multi-modal construit în Ziua 2
Măsurarea robusteței sub perturbare și cuantificarea degradării
Aplicarea defensivelor iterativ și reevaluarea ratelor de succes ale atacurilor
Testarea căilor de apelare a uneltelor și vectorilor de injecție de prompturi
Ziua 4
Framework-uri de Management al Riscurilor pentru AI
NIST AI Risk Management Framework: guvernare, mapare, măsurare, gestionare
ISO/IEC 42001 și standarde emergente specifice AI
Maparea riscului AI pe framework-uri existente de GRC enterprise
Cerințe de responsabilitate, auditabilitate și documentare AI
Conformitatea Regulatorie pentru Sisteme Agentice
Legea UE privind AI: niveluri de risc, utilizări interzise și obligații pentru sistemele de risc ridicat
Implicațiile GDPR și CCPA pentru fluxurile de date ale agenților
Ordinul Executiv din SUA privind AI Sigur, Secur și Demn de Încredere
Ghiduri specifice sectorului pentru finanțe, sănătate și servicii publice
Riscul terților și utilizarea uneltelor AI de la furnizori
Etică, Bias și Explicabilitate
Detectarea și atenuarea bias-ului în percepția și raționamentul agenților
Explicabilitatea și transparența ca proprietăți relevante pentru securitate
Corectitudinea, prejudiciile ulterioare și implementarea responsabilă
Proiectarea comportamentului agenților incluzivi și auditabili
Implementarea în Producție, Monitorizare și Răspuns la Incidente
Modele de implementare securizată pentru sisteme cu un singur agent și multi-agent
Monitorizare continuă pentru drift, anomalii și abuz
Înregistrări, urme de audit și pregătire pentru investigații a acțiunilor agenților
Playbooks de răspuns la incidente de securitate AI și recuperare
Studii de caz ale breșelor AI din lumea reală și lecții învățate
Capstone și Sinteză
Revizuirea sistemului multi-modal multi-agent construit de-a lungul cursului
Revizuirea pipeline-ului end-to-end: proiectare, construire, securizare, guvernare, implementare
Auto-evaluarea sistemului în funcție de funcțiile NIST AI RMF
Perspective viitoare privind tendințele emergente în AI agentică și securitatea AI
Rezumat și Următorii Pași
Cerințe
Publicul țintă
Ingineri și arhitecți AI care construiesc sisteme agentice pentru utilizare în producție. Profesioniști în domeniul securității cibernetice, riscului și conformității responsabili de asigurarea AI în industrii reglementate precum finanțe, sănătate și consultanță. Dezvoltatori seniori și lideri de soluții care integrează capacități multi-modale și multi-agent în platforme enterprise.
Mărturii (3)
Trainerul este răbdător și foarte util. Cunoaște bine subiectul.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curs - Agentic AI for Business Automation: Use Cases & Integration
Tradus de catre o masina
Bună amestec de cunoștințe și practică
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Agentic AI for Enterprise Applications
Tradus de catre o masina
Mixul dintre teorie și practică, precum și al perspectivelor de nivel ridicat și de nivel scăzut
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curs - Autonomous Decision-Making with Agentic AI
Tradus de catre o masina
