Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Fundamentele AI Securizat Local
- Ce înseamnă AI local și on-prem în medii reglementate
- AI în cloud versus implementare internă pentru sarcini sensibile
- Cazuri de utilizare comune în întreprinderi pentru asistenți privați și suport de flux de lucru
- Componentele de bază ale unei arhitecturi AI securizate local
Bazele Ollama și Modelelor Deschise
- Cum se integrează Ollama într-un stack de dezvoltare local
- Extragerea, rularea și gestionarea modelelor local
- Alegerea modelelor în funcție de dimensiune, calitate, hardware și licență
- Potrivirea opțiunilor de modele la sarcini practice de business
Pregătirea Mediului On-Prem
- Pregătirea gazdelor, stațiilor de lucru și serverelor
- Instalarea și configurarea Ollama pentru inferență locală
- Utilizarea containerelor și a instrumentelor de dezvoltare interne
- Verificarea accesului la API și a pregătirii operaționale de bază
Lucrul Eficient cu Modele Locale
- Rularea prompturilor și modelarea ieșirilor cu instrucțiuni de sistem
- Reutilizarea șabloanelor pentru sarcini consistente în întreprinderi
- Gestionarea versiunilor modelelor și a artefactelor interne
- Optimizarea de bază a performanței pentru implementări CPU și GPU
Construirea Fluxurilor de Lucru Agentice Practice
- Ce face un flux de lucru agentic într-un mediu controlat
- Modele simple pentru planificare, utilizarea instrumentelor și bucle de răspuns
- Proiectarea asistenților axați pe sarcini pentru operațiuni interne
- Adăugarea revizuirii umane, a logicii de rezervă și a gestionării erorilor
Fluxuri de Lucru Private Bazate pe Recuperare
- Bazele generării augmentate prin recuperare pentru accesul la cunoștințe interne
- Pregătirea documentelor pentru fragmentare, indexare și căutare
- Conectarea unui depozit vectorial local la o aplicație bazată pe Ollama
- Îmbunătățirea relevanței și calității răspunsurilor cu modele de recuperare mai bune
Practici de Securitate, Guvernanță și Conformitate
- Limitări de manipulare a datelor și considerente de confidențialitate
- Controlul accesului, jurnalizarea și suportul de audit
- Siguranța prompturilor, controalele de ieșire și barierele de protecție
- Puncte de control de guvernanță pentru implementarea și operaționarea reglementată
Modele de Integrare Întreprindere
- Expunerea capacităților AI locale prin API-uri interne
- Integrarea asistenților cu aplicații și servicii interne
- Suportarea cazurilor de utilizare pentru asistenți, loturi și automatizarea fluxurilor de lucru
- Păstrarea soluțiilor în limitele rețelelor controlate
Evaluarea Soluțiilor AI Locale
- Evaluarea calității, fiabilității și consistenței
- Testarea împotriva cerințelor de business, politică și siguranță
- Compararea opțiunilor de modele pentru sarcini specifice de întreprindere
- Stabilirea unui ciclu de îmbunătățire practic pentru echipele interne
Laborator Practic de Implementare
- Construirea unui asistent privat cu Ollama și un model deschis
- Adăugarea recuperării pe documente interne aprobate
- Introducerea unor acțiuni agentice simple și a controalelor de siguranță
- Revizuirea implementării, operaționării și punctelor de control de guvernanță
Planificarea Adoptării și Pașii Următori
- Revizuirea deciziilor cheie de proiectare și implementare
- Identificarea capcanelor comune în proiectele AI reglementate
- Planificarea cazurilor de utilizare pilot și alinierea stakeholderilor
- Definirea unui plan de acțiune pentru adoptarea securizată a AI local
Cerințe
- Înțelegere de bază a conceptelor de AI și dezvoltare de software
- Familiaritate cu instrumente de linie de comandă, containere sau medii de dezvoltare locală
- Experiență de bază în scripting sau programare
Public țintă
- Dezvoltatori și echipe tehnice care construiesc soluții AI private pe infrastructură internă
- Profesioniști în securitate, conformitate și platforme care sprijină AI în medii reglementate
- Lideri tehnici în domeniile financiar, sănătate, guvern și apărare care evaluează adoptarea AI on-prem
21 Ore