Intrati in legatura

Schița de curs

Introducere în Modelele LLM Open-Source

  • Ce sunt modelele cu greutăți deschise și de ce sunt importante
  • Prezentare generală a modelelor LLaMA, Mistral, Qwen și ale altor modele din comunitate
  • Cazuri de utilizare pentru implementări private, on-premise sau sigure

Configurarea Mediului și Instrumente

  • Instalarea și configurarea bibliotecilor Transformers, Datasets și PEFT
  • Alegerea hardware-ului potrivit pentru reglarea fină
  • Încărcarea modelelor preantrenate de pe Hugging Face sau din alte depozite

Pregătirea și Preprocesarea Datelor

  • Formate de seturi de date (reglare pe instrucțiuni, date de chat, doar text)
  • Tokenizare și gestionarea secvențelor
  • Crearea de seturi de date personalizate și încărcătoare de date

Tehnici de Reglare Fină

  • Reglare fină standard vs. metode eficiente din punct de vedere al parametrilor
  • Aplicarea LoRA și QLoRA pentru reglarea fină eficientă
  • Utilizarea API-ului Trainer pentru experimentare rapidă

Evaluarea și Optimizarea Modelului

  • Evaluarea modelelor reglate fin cu metrici de generare și acuratețe
  • Gestionarea supraadaptării, generalizării și seturilor de validare
  • Sfaturi pentru optimizarea performanței și logging

Implementare și Utilizare Privată

  • Salvarea și încărcarea modelelor pentru inferență
  • Implementarea modelelor reglate fin în medii de întreprindere sigure
  • Strategii de implementare on-premise vs. în cloud

Studii de Caz și Cazuri de Utilizare

  • Exemple de utilizare a modelelor LLaMA, Mistral și Qwen în întreprinderi
  • Gestionarea reglării fine multilingve și specifice domeniului
  • Discuție: Compromisuri între modelele deschise și cele închise

Rezumat și Pași Următori

Cerințe

  • O înțelegere a modelelor de limbaj de mare dimensiune (LLM) și a arhitecturii acestora
  • Experiență cu Python și PyTorch
  • Familiaritate de bază cu ecosistemul Hugging Face

Publicul țintă

  • Practicieni ML
  • Dezvoltatori AI
 14 Ore

Numărul de participanți


Pret per participant

Cursuri viitoare

Categorii înrudite