Curs de pregatire Etica și Guvernanța Agenților Autonomi AI

Fundamentele Eticii în Sistemele Autonome

• Definirea autonomiei în agenții AI
• Teoriile etice cheie aplicate comportamentului mașinilor
• Perspectivele părților interesate și proiectarea sensibilă la valori

Riscuri Sociale și Caze de Utilizare cu Mize Ridicate

• Agenți autonomi în siguranța publică, sănătate și apărare
• Colaborarea om-AI și limitele încrederii
• Scenarii de consecințe neintenționate și amplificarea riscurilor

Peisajul Juridic și Reglementativ

• Prezentarea legislației și a tendințelor de politică AI (Legea UE privind AI, NIST, OECD)
• Răspundere, responsabilitate și personalitate juridică a agenților AI
• Inițiative globale de guvernanță și lacunele existente

Explicabilitate și Transparența Deciziilor

• Provocările deciziei autonome de tip „cutie neagră”
• Proiectarea pentru agenți explicabili și auditabili
• Instrumente și cadre de transparență (de exemplu, fișele modelului, fișele de date)

Aliniere, Control și Responsabilitate Morală

• Strategii de aliniere AI pentru comportamentul agenților
• Paradigme de control: omul în buclă vs. omul peste buclă
• Responsabilitatea partajată între proiectanți, utilizatori și instituții

Evaluarea și Atenuarea Riscului Etic

• Harta riscurilor și analiza critică a eșecurilor în proiectarea agenților
• Măsuri de siguranță și mecanisme de oprit de urgență
• Bias, discriminare și auditarea echității

Proiectarea Guvernanței și Supravegherea Instituțională

• Principiile guvernanței responsabile a AI
• Modele de supraveghere multi-parte interesată și audite
• Proiectarea cadrelor de conformitate pentru agenți autonomi

Concluzii și Pașii Următori