Schița de curs
IA în Întreprindere: Perspective Strategice și Juridice
- Adoptarea IA în funcțiile de bază ale afacerii: oportunități și riscuri
- Responsabilitatea executivă în guvernanța IA
- Sisteme de IA de risc ridicat și expunerea organizațională
Clasificarea Riscurilor IA și Cadrul Regulator Global
- Actul UE privind IA: niveluri de risc, cerințe, sancțiuni
- Ordinul Executiv al SUA privind IA și reguli federale/statale emergente
- Conformitatea legată de IA în cadrul GDPR, HIPAA și alte cadre
- Prezentare generală a ISO/IEC 42001, NIST AI RMF, Principiile OECD privind IA
Securitatea și Supravegherea Sistemelor de IA
- Postura de securitate a IA: amenințări, vulnerabilități și măsuri de protecție
- Răspuns la incidente și notificare de încălcări în fluxurile de lucru conduse de IA
- Auditabilitatea și urmărirea intrărilor, deciziilor și ieșirilor modelelor
Achiziționarea Responsabilă a IA și Riscul Furnizorilor
- Diligența necesară la achiziționarea instrumentelor de IA (inclusiv LLM și API)
- Elemente cheie ale contractelor: proprietatea asupra datelor, explicabilitatea modelelor, SLA
- Evaluarea afirmațiilor furnizorilor: mitigarea părtinirilor, garanții de confidențialitate, siguranță
Cadre Interne de Guvernanță și Controale Organizaționale
- Crearea politicilor de utilizare a IA în diferite departamente
- Comitete de etică, comitete de revizuire a riscurilor și supraveghere interfuncțională
- Formare, documentare și integrare a conformității
Evaluarea Cazurilor de Utilizare și Scenarii de Risc
- Evaluarea cazurilor de utilizare de impact ridicat (de ex., screening HR, scoruri financiare, roboți de servicii pentru clienți)
- Instrumente și șabloane pentru evaluarea riscurilor IA
- Scenarii: nealiniere, derivă, halucinație, discriminare
Tendințe Emergente și Considerații Viitoare
- Anticiparea evoluției reglementărilor și convergenței globale
- Riscuri specifice GenAI și extensii de guvernanță
- Scalarea responsabilă a operațiunilor de IA în întreprindere
Rezumat și Pași Următori
Cerințe
- Înțelegerea cadrelor de risc, juridice sau tehnologice ale întreprinderii
- Experiență în conducere executivă, securitate cibernetică sau supraveghere a conformității
- Nu este necesară cunoaștere tehnică prealabilă despre dezvoltarea IA
Publicul țintă
- Șefi ai Securității Informațiilor (CISO)
- Consilieri juridici și ofițeri de conformitate
- Șefi ai Tehnologiei (CTO)
Mărturii (2)
Mi-a plăcut foarte mult să învăț despre atacurile de IA și despre instrumentele disponibile pentru a începe să exersez și să le folosesc în mod activ pentru testarea securității. Am acumulat o mulțime de cunoștințe pe care nu le aveam la început, iar cursul a îndeplinit ceea ce speram. Partea mea preferată din training a fost Comet Browser și am fost uimit de ceea ce poate face. Cu siguranță este ceva ce voi explora mai mult. În general, a fost un curs excelent și m-am bucurat să învăț totul despre OWASP GenAI Top 10.
Patrick Collins - Optum
Curs - OWASP GenAI Security
Tradus de catre o masina
Cunoașterea profesională și modul în care ne-a prezentat-o
Miroslav Nachev - PUBLIC COURSE
Curs - Cybersecurity in AI Systems
Tradus de catre o masina