Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundamente: Modele de Amenințări pentru AI Agentic
- Tipuri de amenințări agentice: utilizare incorectă, escaladare, scurgere de date și riscuri din lanțul de aprovizionare
- Profile de adversari și capacități specifice atacatorilor de agenți autonomi
- Maparea activelor, limitelor de încredere și punctelor de control critice pentru agenți
Guvernanță, Politici și Managementul Riscurilor
- Cadre de guvernanță pentru sistemele agentice (roluri, responsabilități, porți de aprobare)
- Proiectarea politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
- Considerații de conformitate și colectarea de dovezi pentru audituri
Identitate Ne-Umană și Autentificare pentru Agenți
- Proiectarea identităților pentru agenți: conturi de serviciu, JWT și credențiale de scurtă durată
- Modele de acces „least-privilege” și credențializare just-in-time
- Strategii de gestionare a ciclului de viață al identităților, rotație, delegare și revocare
Controale de Acces, Secrete și Protecția Datelor
- Modele de control al accesului fine și modele bazate pe capabilități pentru agenți
- Managementul secretelor, criptarea în tranzit și la repaus, și minimizarea datelor
- Protejarea surselor de cunoștințe sensibile și a datelor cu caracter personal (PII) de la accesul neautorizat al agenților
Observabilitate, Audit și Răspuns la Incidente
- Proiectarea telemetriei pentru comportamentul agenților: urmărirea intențiilor, jurnale de comenzi și proveniență
- Integrarea SIEM, praguri de alertare și pregătire pentru investigații forensice
- Runbooks și playbooks pentru incidente legate de agenți și conținere
Testarea Adversă a Sistemelor Agentice
- Planificarea exercițiilor de red-teaming: scop, reguli de angajare și failover sigur
- Tehnici adverse: injecție de prompturi, utilizare incorectă a instrumentelor, manipularea lanțului de gândire și abuzul API
- Efectuarea de atacuri controlate și măsurarea expunerii și impactului
Consolidarea și Mijloace de Mitigare
- Controale de inginerie: limitatoare de răspuns, gating de capabilități și sandboxing
- Controale de politică și orchestră: fluxuri de aprobare, om-in-buclă și cârlige de guvernanță
- Apărare la nivel de model și prompturi: validarea intrării, canonizarea și filtrele de ieșire
Operaționalizarea Implementărilor Sigure ale Agenților
- Modele de implementare: staging, canary și implementare progresivă pentru agenți
- Controlul schimbărilor, conducte de testare și verificări de siguranță pre-implementare
- Guvernanță cross-functional: securitate, legal, produs și playbooks de operațiuni
Capstone: Exercițiu Red-Team / Blue-Team
- Executarea unui atac red-team simulat într-un mediu sandbox pentru agenți
- Apărarea, detectarea și remedierea ca blue team folosind controale și telemetrie
- Prezentarea constatărilor, planului de remediere și actualizărilor de politici
Rezumat și Pași Următori
Cerințe
- Fundal solid în inginerie de securitate, administrare de sisteme sau operațiuni cloud
- Familiaritate cu concepte de AI/ML și comportamentul modelelor de limbaj de mare dimensiune (LLM)
- Experiență în managementul identităților și accesului (IAM) și proiectarea sistemelor securizate
Publicul Țintă
- Ingineri de securitate și red-teameri
- Ingineri de operațiuni și platforme AI
- Oficiali de conformitate și manageri de risc
- Conducători de inginerie responsabili de implementări de agenți
21 Ore
Mărturii (1)
Cunoașterea profesională și modul în care ne-a prezentat-o
Miroslav Nachev - PUBLIC COURSE
Curs - Cybersecurity in AI Systems
Tradus de catre o masina
