Schița de curs
Introducere în Implementarea în Producție
- Provocări cheie în implementarea modelelor fine-tuned
- Diferențe între mediile de dezvoltare și producție
- Instrumente și platforme pentru implementarea modelelor
Pregătirea Modelelor pentru Implementare
- Exportarea modelelor în formate standard (ONNX, TensorFlow SavedModel, etc.)
- Optimizarea modelelor pentru latență și debit
- Testarea modelelor pe cazuri limită și date reale
Containerizare pentru Implementarea Modelelor
- Introducere în Docker
- Crearea de imagini Docker pentru modele ML
- Bune practici pentru securitatea și eficiența containerelor
Scalarea Implementărilor cu Kubernetes
- Introducere în Kubernetes pentru sarcini de AI
- Configurarea clusterelor Kubernetes pentru găzduirea modelelor
- Echilibrarea sarcinii și scalarea orizontală
Monitorizarea și Întreținerea Modelelor
- Implementarea monitorizării cu Prometheus și Grafana
- Logging automat pentru urmărirea erorilor și performanței
- Pipeline-uri de reantrenare pentru drift și actualizări ale modelelor
Asigurarea Securității în Producție
- Securizarea API-urilor pentru inferența modelelor
- Mecanisme de autentificare și autorizare
- Abordarea preocupărilor legate de confidențialitatea datelor
Studii de Caz și Laboratoare Practice
- Implementarea unui model de analiză a sentimentelor
- Scalarea unui serviciu de traducere automată
- Implementarea monitorizării pentru modele de clasificare a imaginilor
Rezumat și Pași Următori
Cerințe
- Înțelegere solidă a fluxurilor de lucru în învățarea automată
- Experiență cu fine-tuning modele de ML
- Cunoaștere a principiilor DevOps sau MLOps
Publicul țintă
- Ingineri DevOps
- Practicieni MLOps
- Specialiști în implementarea AI
Mărturii (3)
Craig a fost extrem de implicat în instruire, mereu asigurându-se că suntem atenți, adaptând exemplele la activitățile noastre zilnice și mereu oferind un răspuns când era întrebat, chiar dacă informația nu era inclusă în prezentare.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Curs - DevOps Foundation®
Tradus de catre o masina
Un grad ridicat de angajament și cunoștințe al instrucționarului
Jacek - Softsystem
Curs - DevOps Engineering Foundation (DOEF)®
Tradus de catre o masina
exemple din viața reală
Maria - Fundacja PTA
Curs - Mastering Make: Advanced Workflow Automation and Optimization
Tradus de catre o masina