Schița de curs

Introducere în Generarea Augmentată cu Recuperare (RAG)

  • Ce este RAG și de ce este important pentru AI-ul enterprize
  • Componentele unui sistem RAG: recuperator, generator, depozit documente
  • Comparativă cu LLM-uri standalone și căutare vectorială

Configurarea unei Pipelines RAG

  • Instalarea și configurarea framework-ului Haystack sau similare
  • Ingesta și preprocesarea documentelor
  • Conectarea recuperatorilor la baze de date vectoriale (de exemplu, FAISS, Pinecone)

Fine-Tuning Recuperatorul

  • Trenarea recuperatorilor densi cu date specifice domeniului
  • Folosirea transformerelor de propoziții și învățare contrastivă
  • Evaluarea calității recuperatorului cu acuratețea top-k

Fine-Tuning Generatorul

  • Selectarea modelelor bazice (de exemplu, BART, T5, FLAN-T5)
  • Tunarea instrucțiunilor vs. fine-tuning supraveghere
  • Mетоды LoRA și PEFT pentru actualizări eficiente

Evaluare și Optimizare

  • Metrice pentru evaluarea performanței RAG (de exemplu, BLEU, EM, F1)
  • Latență, calitatea recuperării și reducerea halucinațiilor
  • Urmarirea experimentelor și îmbunătățiri iterative

Deployare și Integrare în Lumea Reală

  • Deployarea RAG în motorii de căutare interni și chatbot-uri
  • Securitate, acces la date și considerente de guvernanță
  • Integrarea cu API-uri, panouri de control sau portaluri de cunoaștere

Cazuri Studiu și Beste Practici

  • Cazuri de utilizare enterprize în finanțe, sănătate și juridic
  • Gestionarea derapării domeniului și actualizărilor bazei de cunoaștere
  • Direcțiile viitoare ale sistemelor LLM cu recuperare augmentată

Rezumat și Următoarele Pași

Cerințe

  • O înțelegere a conceptelor de procesare a limbajului natural (NLP)
  • Experiență cu modele lingvistice bazate pe transformere
  • Cunoștințe cu Python și fluxuri de lucru de bază pentru învățarea automată

Publicul vizat

  • Inginerii NLP
  • Echipe de management al cunoașterii
 14 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite