Schița de curs
Introducere în Securitatea TinyML
- Provocări de securitate în sistemele ML cu resurse limitate
- Modele de amenințări pentru implementările TinyML
- Categorii de risc pentru aplicațiile de AI încorporate
Confidențialitatea Datelor în AI la Margine
- Considerații privind confidențialitatea pentru procesarea datelor pe dispozitiv
- Minimizarea expunerii și transferului de date
- Tehnici pentru gestionarea descentralizată a datelor
Atacuri Adversare asupra Modelelor TinyML
- Amenințări de evaziune și otrăvire a modelelor
- Manipularea intrărilor pe senzorii încorporați
- Evaluarea vulnerabilităților în medii cu resurse limitate
Consolidarea Securității pentru ML Încorporat
- Straturi de protecție pentru firmware și hardware
- Mecanisme de control al accesului și pornire securizată
- Cele mai bune practici pentru protejarea pipeline-urilor de inferență
Tehnici de Protecție a Confidențialității în TinyML
- Considerații de proiectare a modelelor și cuantizare pentru confidențialitate
- Tehnici de anonimizare pe dispozitiv
- Metode de criptare ușoară și calcul securizat
Implementare și Mentenanță Securizată
- Aprovizionarea securizată a dispozitivelor TinyML
- Strategii de actualizare și patch-uri OTA
- Monitorizare și răspuns la incidente la margine
Testarea și Validarea Sistemelor TinyML Securizate
- Cadre de testare a securității și confidențialității
- Simularea scenariilor de atac din lumea reală
- Considerații de validare și conformitate
Studii de Caz și Scenarii Aplicate
- Eșecuri de securitate în ecosistemele de AI la margine
- Proiectarea arhitecturilor TinyML reziliente
- Evaluarea compromisurilor între performanță și protecție
Rezumat și Pași Următori
Cerințe
- Înțelegerea arhitecturilor sistemelor încorporate
- Experiență în fluxurile de lucru ale învățării automate
- Cunoștințe de bază despre securitatea cibernetică
Publicul țintă
- Analiști de securitate
- Dezvoltatori AI
- Ingineri de sisteme încorporate
Mărturii (2)
Mi-a plăcut foarte mult să învăț despre atacurile de IA și despre instrumentele disponibile pentru a începe să exersez și să le folosesc în mod activ pentru testarea securității. Am acumulat o mulțime de cunoștințe pe care nu le aveam la început, iar cursul a îndeplinit ceea ce speram. Partea mea preferată din training a fost Comet Browser și am fost uimit de ceea ce poate face. Cu siguranță este ceva ce voi explora mai mult. În general, a fost un curs excelent și m-am bucurat să învăț totul despre OWASP GenAI Top 10.
Patrick Collins - Optum
Curs - OWASP GenAI Security
Tradus de catre o masina
Cunoașterea profesională și modul în care ne-a prezentat-o
Miroslav Nachev - PUBLIC COURSE
Curs - Cybersecurity in AI Systems
Tradus de catre o masina