Intrati in legatura

Schița de curs

Fundamente: Modele de Amenințări pentru AI Agentic

  • Tipuri de amenințări agentice: utilizare incorectă, escaladare, scurgere de date și riscuri din lanțul de aprovizionare
  • Profile de adversari și capacități specifice atacatorilor pentru agenți autonomi
  • Maparea activelor, limitelor de încredere și punctelor de control critice pentru agenți

Guvernanță, Politică și Managementul Riscurilor

  • Cadre de guvernanță pentru sistemele agentice (roluri, responsabilități, porți de aprobare)
  • Proiectarea politicilor: utilizare acceptabilă, reguli de escaladare, gestionarea datelor și auditabilitate
  • Considerații de conformitate și colectarea de dovezi pentru audituri

Identitate și Autentificare Non-Umană pentru Agenți

  • Proiectarea identităților pentru agenți: conturi de serviciu, JWTs și credențiale de scurtă durată
  • Modele de acces cu privilegii minime și credențializare just-in-time
  • Ciclul de viață al identității, rotația, delegarea și strategiile de revocare

Controale de Acces, Secrete și Protecția Datelor

  • Modele de control al accesului la nivel fin și modele bazate pe capabilități pentru agenți
  • Gestionarea secretelor, criptarea în tranzit și la repaus, și minimizarea datelor
  • Protejarea surselor de cunoștințe sensibile și a PII de la accesul neautorizat al agenților

Observabilitate, Auditare și Răspuns la Incidente

  • Proiectarea telemetriei pentru comportamentul agenților: urmărirea intențiilor, jurnale de comenzi și proveniență
  • Integrarea SIEM, praguri de alertare și pregătirea pentru investigații forensice
  • Runbooks și playbooks pentru incidente legate de agenți și conținere

Testare Red-Teaming a Sistemelor Agentice

  • Planificarea exercițiilor red-team: scop, reguli de angajare și failover sigur
  • Tehnici adverse: injecție de prompturi, utilizare incorectă a instrumentelor, manipularea lanțului de gândire și abuzul API
  • Efectuarea de atacuri controlate și măsurarea expunerii și impactului

Consolidarea și Mijloace de Atenuare

  • Controale de inginerie: limitatoare de răspuns, blocarea capabilităților și sandboxing
  • Controale de politică și orchestrări: fluxuri de aprobare, om-în-buclă și cârlige de guvernanță
  • Apărare la nivel de model și prompturi: validarea intrării, canonicalizarea și filtrele de ieșire

Operaționalizarea Implementărilor Sigure ale Agenților

  • Modele de implementare: staging, canary și implementare progresivă pentru agenți
  • Controlul schimbărilor, conducte de testare și verificări de siguranță pre-implementare
  • Guvernanță cross-functională: securitate, legal, produs și playbooks de operațiuni

Capstone: Exercițiu Red-Team / Blue-Team

  • Executarea unui atac red-team simulat împotriva unui mediu agentic sandbox
  • Apărare, detectare și remediere ca blue team folosind controale și telemetrie
  • Prezentarea constatărilor, planului de remediere și actualizărilor politicilor

Rezumat și Pași Următori

Cerințe

  • Fundal solid în inginerie de securitate, administrare de sisteme sau operațiuni cloud
  • Familiaritate cu conceptele AI/ML și comportamentul modelelor de limbaj mare (LLM)
  • Experiență în gestionarea identităților și accesului (IAM) și proiectarea sistemelor securizate

Audiență

  • Ingineri de securitate și red-teamers
  • Ingineri de operațiuni AI și platforme
  • Oficialii de conformitate și managerii de risc
  • Conducători de inginerie responsabili de implementările agenților
 21 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite