Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Durata 14 ore
Schița de curs
Prezentare generală a arhitecturii LLM și a suprafeței de atac
- Cum sunt construite, implementate și accesate LLM-urile prin API-uri
- Componente cheie în stivele de aplicații LLM (de ex., prompturi, agenți, memorie, API-uri)
- Unde și cum apar problemele de securitate în utilizarea reală
Atacuri de injecție de prompturi și jailbreak
- Ce este injecția de prompturi și de ce este periculoasă
- Scenarii de injecție directă și indirectă de prompturi
- Tehnici de jailbreak pentru a ocoli filtrele de siguranță
- Strategii de detectare și atenuare
Riscuri de scurgere a datelor și confidențialitate
- Expunerea accidentală a datelor prin răspunsuri
- Scurgeri de PII și utilizarea abuzivă a memoriei modelului
- Proiectarea prompturilor conștiente de confidențialitate și a generării augmentate de recuperare (RAG)
Filtrarea și protejarea ieșirilor LLM
- Utilizarea Guardrails AI pentru filtrarea și validarea conținutului
- Definirea schemelor și constrângerilor de ieșire
- Monitorizarea și înregistrarea ieșirilor nesigure
Abordări umane în buclă și fluxuri de lucru
- Unde și când să introduci supravegherea umană
- Cozi de aprobare, praguri de punctaj, gestionarea fallback
- Calibrarea încrederii și rolul explicabilității
Modele de proiectare securizată a aplicațiilor LLM
- Privilegii minime și sandboxing pentru apelurile API și agenți
- Limitarea ratei, throttling și detectarea abuzului
- Legături robuste cu LangChain și izolarea prompturilor
Conformitate, înregistrare și guvernanță
- Asigurarea auditabilității ieșirilor LLM
- Menținerea trasabilității și controlul versiunilor/prompturilor
- Alinearea la politicile interne de securitate și nevoile de reglementare
Rezumat și pași următori
Cerințe
- O înțelegere a modelelor lingvistice de mari dimensiuni și a interfețelor bazate pe prompturi
- Experiență în construirea aplicațiilor LLM folosind Python
- Familiaritate cu integrarea API-urilor și implementările bazate pe cloud
Publicul țintă
- Dezvoltatori AI
- Arhitecți de aplicații și soluții
- Manageri de produse tehnice care lucrează cu instrumente LLM
