Schița de curs

Introducere în Fine-Tuning-ul modelelor LLM DeepSeek

  • Prezentare generală a modelelor DeepSeek, cum ar fi DeepSeek-R1 și DeepSeek-V3
  • Compre henderea nevoii de fine-tuning pentru modelele LLM
  • Compararea fine-tuningului cu ingineria prompt-urilor

Prepararea Setului de Date pentru Fine-Tuning

  • Curățirea și selecționarea seturilor de date specifice domeniului
  • Tehnici de preprocesare și curățare a datelor
  • Tokenizarea și formatarea setului de date pentru modelele LLM DeepSeek

Configurarea Mediului de Fine-Tuning

  • Configurarea accelerării cu GPU și TPU
  • Setarea Hugging Face Transformers cu modelele LLM DeepSeek
  • Compre henderea hiperparametrilor pentru fine-tuning

Fine-Tuning Modelelor LLM DeepSeek

  • Implementarea fine-tuning-ului supervizat
  • Utilizarea LoRA (Adaptare Rang Redus) și PEFT (Fine-Tuning Eficient de Parametri)
  • Executarea fine-tuning distribuit pentru seturi de date la scară largă

Evaluarea și Optimizarea Modelelor Fine-Tuned

  • Evaluarea performanței modelelor cu metrici de evaluare
  • Gestionarea suprapasării și subpasării
  • Optimizarea vitezei de inferență și eficienței modelului

Implementarea Modelelor Fine-Tuned DeepSeek

  • Pastrarea modelelor pentru deploy-ul API-ului
  • Integrarea modelelor fine-tuned în aplicații
  • Scalare a implementărilor cu calcul cloud și la bord

Cazuri de Utilizare Reale și Aplicații

  • Modele LLM fine-tuned pentru finanțe, sănătate și suport clienti
  • Studii de caz ale aplicațiilor industriale
  • Considerații etice în modelele AI specifice domeniului

Rezumat și Pași Următori

Cerințe

  • Experiență cu framework-uri de învățare automată și învățare profundă
  • Cunoștințe despre transformere și modele lingvistice mari (LLM)
  • Compreensiune a tehnicilor de preprocesare a datelor și antrenamentului modelului

Publicul-țintă

  • Cercetători AI care exploră afinați LLM-uri
  • Ingineri de învățare automată care dezvoltă modele AI personalizate
  • Dezvoltatori avansați care implementează soluții bazate pe AI
 21 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite