Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundamente: Modele de Amenințare pentru AI Agentic
- Tipuri de amenințări agentice: utilizare abuzivă, escaladare, scurgeri de date și riscuri de supply-chain
- Profiluri ale adversarilor și capabilități ale atacatorilor specifice agenților autonomi
- Maparea activelor, limitelor de încredere și punctelor critice de control pentru agenți
Guvernanță, Politici și Managementul Riscului
- Cadre de guvernanță pentru sistemele agentice (roluri, responsabilități, porți de aprobare)
- Proiectarea politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
- Considerente de conformitate și colectarea probelor pentru audituri
Identitate Non-Umană și Autentificare pentru Agenți
- Proiectarea identităților pentru agenți: conturi de serviciu, JWT-uri și credențiale pe termen scurt
- Modele de acces cu privilegii minime și credentialing just-in-time
- Ciclul de viață al identității, rotația, delegarea și strategiile de revocare
Controale de Acces, Secrete și Protecția Datelor
- Modele de control al accesului cu granularitate fină și modele bazate pe capabilități pentru agenți
- Managementul secretelor, criptarea în tranzit și în repaus și minimizarea datelor
- Protejarea surselor de cunoștințe sensibile și a datelor personale împotriva accesului neautorizat al agenților
Observabilitate, Auditare și Răspuns la Incidente
- Proiectarea telemetriei pentru comportamentul agenților: urmărirea intențiilor, jurnale de comenzi și proveniență
- Integrarea SIEM, praguri de alertare și pregătirea pentru investigații forensice
- Runbook-uri și playbook-uri pentru incidente legate de agenți și izolare
Red-Teaming pentru Sistemele Agentice
- Planificarea exercițiilor de red-team: scop, reguli de angajament și failover sigur
- Tehnici adversiale: prompt injection, utilizarea abuzivă a instrumentelor, manipularea lanțului de raționament și abuzul de API
- Efectuarea atacurilor controlate și măsurarea expunerii și impactului
Întărirea Securității și Atenuări
- Controale de inginerie: throttling al răspunsurilor, limitarea capabilităților și sandboxing
- Controale de politici și orchestrare: fluxuri de aprobare, human-in-the-loop și cârlige de guvernanță
- Apărări la nivel de model și prompt: validarea intrărilor, canonizarea și filtrele de ieșire
Operaționalizarea Implementărilor Sigure ale Agenților
- Modele de implementare: staging, canary și lansare progresivă pentru agenți
- Controlul schimbărilor, pipeline-uri de testare și verificări de siguranță înainte de implementare
- Guvernanță inter-funcțională: playbook-uri de securitate, juridic, produs și operațiuni
Proiect Final: Exercițiu Red-Team / Blue-Team
- Execută un atac red-team simulat împotriva unui mediu de agenți sandboxed
- Apără, detectează și remediază ca echipă blue-team folosind controale și telemetrie
- Prezintă constatările, planul de remediere și actualizările politicilor
Rezumat și Pașii Următori
Cerințe
- Cunoștințe solide în inginerie de securitate, administrarea sistemelor sau operațiuni cloud
- Familiaritate cu conceptele AI/ML și comportamentul modelelor de limbaj de mari dimensiuni (LLM)
- Experiență cu managementul identității și accesului (IAM) și proiectarea securizată a sistemelor
Audiență
- Ingineri de securitate și membri ai echipelor red-team
- Ingineri de operațiuni AI și platforme
- Ofițeri de conformitate și manageri de risc
- Lideri de inginerie responsabili de implementările agenților
21 Ore
Mărturii (1)
inventarul și identificarea diferitelor expuneri la risc în cadrul AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Curs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Tradus de catre o masina
