Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Durata 21 ore
Schița de curs
Fundamente: Modele de Amenințări pentru AI Agentic
- Tipuri de amenințări pentru agenți: abuz, escaladare, scurgere de date și riscuri în lanțul de aprovizionare (supply chain)
- Profile ale adversarilor și capacitățile atacatorilor specifice agenților autonomi
- Hărțuirea asset-urilor, granițelor de încredere și a punctelor critice de control pentru agenți
Guvernanță, Politici și Managementul Riscului
- Cadre de guvernanță pentru sisteme agentic (roluri, responsabilități, gate-uri de aprobare)
- Design-ul politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
- Aspecte de conformitate și colectarea dovezelor pentru audituri
Identitate Ne-Umană și Autentificare pentru Agenți
- Proiectarea identității pentru agenți: conturi de serviciu, JWT-uri și credentiale de scurtă durată
- Modele de acces least-privilege și credentiale just-in-time
- Ciclul de viață al identității, rotația, delegarea și strategiile de revocare
Controale de Acces, Taine și Protecția Datelor
- Modele de control al accesului granular și pattern-uri bazate pe capacități pentru agenți
- Managementul tainelor, criptarea în tranzit și la stocare, și minimizarea datelor
- Protejarea surselor de cunoaștere sensibile și a PII împotriva accesului neautorizat de către agenți
Observability, Audit și Răspuns la Incidente
- Proiectarea telemetriei pentru comportamentul agenților: trasarea intenției, jurnalele comenzilor și proveniența
- Integrare SIEM, praguri de alertare și pregătire pentru investigații forensice
- Runbooks și playbooks pentru incidentele legate de agenți și containerea acestora
Red-Teaming pentru Sisteme Agentic
- Planificarea exercițiilor de red-teaming: scope, reguli de angajament și failover sigur
- Tehnici adversare: injecție de prompt, abuz de tool-uri, manipulare a lanțului de gândire (chain-of-thought) și abuz de API
- Conducerea atacurilor controlate și măsurarea expunerii și a impactului
Întărire și Mitigare
- Controale inginerești: limitarea răspunsurilor (throttling), gate-uri pe capacități și sandboxing
- Controale de politici și orchestrare: fluxuri de aprobare, human-in-the-loop și hook-uri de guvernanță
- Apărări la nivel de model și prompt: validarea input-urilor, canonizarea și filtrele de output
Operaționalizarea Deploy-urilor Sigure de Agenți
- Modele de deploy: staging, canary și lansare progresivă pentru agenți
- Controlul schimbărilor, pipeline-uri de testare și verificări de siguranță pre-deploy
- Guvernanță inter-funcțională: playbooks pentru securitate, juridic, produs și operațiuni
Capstone: Exercițiul Red-Team / Blue-Team
- Executarea unui atac simulat de red-team împotriva unui mediu sandboxed pentru agenți
- Apărare, detecție și remediere în echipa blue team folosind controale și telemetrie
- Prezentarea constatarilor, planului de remediere și actualizărilor de politici
Rezumat și Pașii Următori
Cerințe
- Un bagaj solid în ingineria securității, administrarea sistemelor sau operațiunile în cloud
- Familiaritate cu conceptele de AI/ML și comportamentul modelelor de limbaj mari (LLM)
- Experiență în gestionarea identității și a accesului (IAM) și design-ul sistemelor sigure
Public
- Ingineri de securitate și specialiști în red-teaming
- Ingineri de operațiuni AI și de platforme
- Responsabili de conformitate și manageri de risc
- Lead-uri de inginerie responsabili de deploy-urile de agenți
Mărturii (1)
inventarul și identificarea diferitelor expuneri la risc în cadrul AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Curs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Tradus de catre o masina
