Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundamente: Modele de Amenințări pentru AI Agentic
- Tipuri de amenințări agentice: utilizare incorectă, escaladare, scurgere de date și riscuri din lanțul de aprovizionare
- Profile de adversari și capacități specifice atacatorilor pentru agenți autonomi
- Maparea activelor, limitelor de încredere și punctelor de control critice pentru agenți
Guvernanță, Politică și Managementul Riscurilor
- Cadre de guvernanță pentru sistemele agentice (roluri, responsabilități, porți de aprobare)
- Proiectarea politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
- Considerații de conformitate și colectarea de dovezi pentru audituri
Identitate și Autentificare Non-Umană pentru Agenți
- Proiectarea identităților pentru agenți: conturi de serviciu, JWTs și credențiale de scurtă durată
- Modele de acces cu privilegii minime și credențializare just-in-time
- Ciclul de viață al identității, rotația, delegarea și strategiile de revocare
Controale de Acces, Secrete și Protecția Datelor
- Modele de control al accesului la nivel fin și modele bazate pe capabilități pentru agenți
- Gestionarea secretelor, criptarea în tranzit și la repaus, și minimizarea datelor
- Protejarea surselor de cunoștințe sensibile și a PII de la accesul neautorizat al agenților
Observabilitate, Auditare și Răspuns la Incidente
- Proiectarea telemetriei pentru comportamentul agenților: urmărirea intențiilor, jurnale de comenzi și proveniență
- Integrarea SIEM, praguri de alertare și pregătirea pentru investigații forensice
- Runbooks și playbooks pentru incidente legate de agenți și conținere
Testare Red-Teaming a Sistemelor Agentice
- Planificarea exercițiilor red-team: scop, reguli de angajare și failover sigur
- Tehnici adverse: injecție de prompturi, utilizare incorectă a instrumentelor, manipularea lanțului de gândire și abuzul API
- Efectuarea de atacuri controlate și măsurarea expunerii și impactului
Consolidarea și Mijloace de Atenuare
- Controale de inginerie: limitatoare de răspuns, blocarea capabilităților și sandboxing
- Controale de politică și orchestrări: fluxuri de aprobare, om-în-buclă și cârlige de guvernanță
- Apărare la nivel de model și prompturi: validarea intrării, canonicalizarea și filtrele de ieșire
Operaționalizarea Implementărilor Sigure ale Agenților
- Modele de implementare: staging, canary și implementare progresivă pentru agenți
- Controlul schimbărilor, conducte de testare și verificări de siguranță pre-implementare
- Guvernanță cross-functională: securitate, legal, produs și playbooks de operațiuni
Capstone: Exercițiu Red-Team / Blue-Team
- Executarea unui atac red-team simulat împotriva unui mediu agentic sandbox
- Apărare, detectare și remediere ca blue team folosind controale și telemetrie
- Prezentarea constatărilor, planului de remediere și actualizărilor politicilor
Rezumat și Pași Următori
Cerințe
- Fundal solid în inginerie de securitate, administrare de sisteme sau operațiuni cloud
- Familiaritate cu conceptele AI/ML și comportamentul modelelor de limbaj mare (LLM)
- Experiență în gestionarea identităților și accesului (IAM) și proiectarea sistemelor securizate
Audiență
- Ingineri de securitate și red-teamers
- Ingineri de operațiuni AI și platforme
- Oficialii de conformitate și managerii de risc
- Conducători de inginerie responsabili de implementările agenților
21 Ore