Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Implementarea Offline a EXO
- Utilizarea EXO_OFFLINE pentru a preveni accesul la internet în timpul execuției
- Încărcarea prealabilă a modelelor în EXO_MODELS_READ_ONLY_DIRS din oglinzi interne de încredere
- Verificarea integrității greutăților modelelor cu sume de control SHA-256 și fișiere de modele semnate
- Rularea EXO în rețele aerisite fără dependențe HuggingFace
Controlul Accesului la Panoul de Control și API
- Instalarea și configurarea proxy-urilor inverse (nginx, Caddy) cu terminare TLS
- Implementarea controlului accesului bazat pe roluri pentru panoul de control EXO și API REST
- Utilizarea macOS keychain sau Linux pass pentru a stoca secrete pentru autentificarea API
- Restricționarea punctelor finale administrative la intervale specifice de IP-uri sursă
Izolarea Clusterelor și Securitatea Rețelei
- Segmentarea clusterelor EXO cu EXO_LIBP2P_NAMESPACE și VLAN-uri
- Configurarea firewall-urilor gazdă (macOS application firewall, iptables, nftables) pentru porturile EXO
- Prevenirea descoperirii neautorizate a dispozitivelor și injecției de noduri false
- Criptarea traficului libp2p între noduri când RDMA nu este disponibil
Guvernanța și Proveniența Modelelor
- Construirea unui registru intern de modele cu liste de modele aprobate și metadate
- Etichetarea și versionarea greutăților cuantizate (4-bit, 8-bit) alături de punctele de control sursă
- Aplicarea restricțiilor pentru a încărca doar anumite repo-uri HuggingFace sau artefacte interne
- Documentarea liniei de descendență a modelelor, termenilor de licență și politicilor de utilizare acceptabilă
Jurnalizarea Auditului și Conformitatea
- Configurarea redirecționării jurnalelor EXO către evidențe de audit imutabile (SIEM, stocare WORM)
- Corelarea jurnalelor de apeluri API cu identitatea utilizatorului și marcajul temporal
- Captarea evenimentelor de creare, ștergere și cereri de inferență ale modelelor
- Generarea de rapoarte periodice de conformitate pentru auditorii interni și externi
Modelarea Amenințărilor și Răspunsul la Incidente
- Identificarea amenințărilor: exfiltrarea datelor prin ieșirile modelelor, injecția de prompturi, scurgeri prin canale laterale
- Implementarea conductelor de monitorizare a prompturilor și filtrare de conținut
- Crearea de manuale de răspuns la incidente pentru scenarii de compromitere a clusterelor
- Izolarea nodurilor afectate, păstrarea jurnalelor forenzice și reconstruirea mediilor curate
Securitatea Fizică și Granițele Hardware
- Protejarea porturilor Thunderbolt împotriva conexiunilor neautorizate de cabluri RDMA
- Utilizarea enclavurilor securizate și a atestării hardware Apple Silicon, unde este aplicabil
- Controlul accesului fizic la Mac-uri clusterizate și stocare partajată
- Documentarea ciclului de viață al hardware-ului și procedurilor de dezafectare
Considerații Regulatorii
- Maparea implementărilor EXO la cerințele GDPR, HIPAA și SOC 2
- Menținerea rezidenței datelor prin păstrarea inferenței on-premise
- Documentarea riscurilor din lanțul de aprovizionare al furnizorilor (MLX, EXO, greutăți modele)
- Pregătirea pentru cadrele de guvernanță AI, cum ar fi Articolul 53 din Legea UE privind IA
Cerințe
- Experiență cu EXO sau un alt runtime LLM local
- Înțelegerea permisiunilor sistemului de fișiere Unix și a ACL-urilor de rețea
- Familiaritate cu gestionarea certificatelor TLS/SSL și noțiuni de bază despre criptare
Publicul țintă
- Ingineri de securitate
- Ofițeri de conformitate
- Administratori de infrastructură AI care gestionează date sensibile
14 Ore
Mărturii (1)
Instructorul avea o cunoaștere excelentă a FortiGate și a prezentat conținutul foarte bine. Mulțumiri multe Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curs - FortiGate 7.4 Administration
Tradus de catre o masina
