Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Schița de curs
Prezentare generală a arhitecturii LLM și a suprafeței de atac
- Cum sunt construite, distribuite și accesate LLM-uri prin intermediul API-urilor
- Componentele cheie din pilonurile aplicațiilor LLM (de exemplu, provocări, agenți, memorie, API-uri)
- Unde și cum apar problemele de securitate în utilizarea reală
Injucări de provocare și atacuri de eliberare
- Ceea ce este injucarea de provocare și de ce este periculoasă
- Situatii directe și indirecte de injucare de provocare
- Tehnici de eliberare pentru a evita filtrele de siguranță
- Strategii de detectare și mitigare
Fugării de date și riscuri privind confidențialitatea
- Eșecurile accidentale ale datelor prin răspunsuri
- Fugării PII și abuzul cu memorie modelului
- Dizajnarea provocărilor consciente de confidențialitate și a generării îmbunătățite prin recuperare (RAG)
Filtrare și protejare a iesirilor LLM
- Utilizarea Guardrails AI pentru filtrare și validare conținutului
- Definirea schemelor de ieșiri și constrângerile lor
- Supraveghere și jurnalizare a iesirilor nesigure
Abordări cu implicarea omului în buclele de lucru
- Când și unde să introducem supravegherea umană
- Colețe de aprobare, praguri de scor, gestionarea cazurilor alternative
- Calibrarea încrederii și rolul explicabilității
Aplicație LLM sigură Design Patterns
- Drepturile minime și izolare pentru apeluri API și agenți
- Limitare a vitezei, reglaj și detectarea abuzului
- Catenare robustă cu Photoshop și izolare provocare
Conformitate, jurnalizare și Governiment
- Așigurarea auditabilității iesirilor LLM
- Maintaining traceability and prompt/version control (Mentenanța tracabilizabilității și a controlului provocării/versiunii)
- Alinierea cu politici de securitate interne și nevoile regulate
Rezumat și următoarele pași
Cerințe
- Ocupațiune cu modelele de limbaj larg și interfețele bazate pe prompt-uri
- Experiență în construirea aplicațiilor LLM folosind Python
- Familiaritate cu integrările API și cu deploy-urile bazate pe cloud
Publicul vizat
- Dezvoltatori AI
- Arhitecți de aplicații și soluții
- Gestionarii tehnici ai produselor care lucrează cu instrumentele LLM
14 ore
