Cursuri de pregatire Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs
Parameter-Efficient Fine-Tuning (PEFT) is a collection of techniques that enable efficient adaptation of large language models (LLMs) by modifying only a small subset of parameters.
This instructor-led, live training (online or onsite) is aimed at intermediate-level data scientists and AI engineers who wish to fine-tune large language models more affordably and efficiently using methods like LoRA, Adapter Tuning, and Prefix Tuning.
By the end of this training, participants will be able to:
- Understand the theory behind parameter-efficient fine-tuning approaches.
- Implement LoRA, Adapter Tuning, and Prefix Tuning using Hugging Face PEFT.
- Compare performance and cost trade-offs of PEFT methods vs. full fine-tuning.
- Deploy and scale fine-tuned LLMs with reduced compute and storage requirements.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Schița de curs
Introduction to Parameter-Efficient Fine-Tuning (PEFT)
- Motivation and limitations of full fine-tuning
- Overview of PEFT: goals and benefits
- Applications and use cases in industry
LoRA (Low-Rank Adaptation)
- Concept and intuition behind LoRA
- Implementing LoRA using Hugging Face and PyTorch
- Hands-on: Fine-tuning a model with LoRA
Adapter Tuning
- How adapter modules work
- Integration with transformer-based models
- Hands-on: Applying Adapter Tuning to a transformer model
Prefix Tuning
- Using soft prompts for fine-tuning
- Strengths and limitations compared to LoRA and adapters
- Hands-on: Prefix Tuning on an LLM task
Evaluating and Comparing PEFT Methods
- Metrics for evaluating performance and efficiency
- Trade-offs in training speed, memory usage, and accuracy
- Benchmarking experiments and result interpretation
Deploying Fine-Tuned Models
- Saving and loading fine-tuned models
- Deployment considerations for PEFT-based models
- Integrating into applications and pipelines
Best Practices and Extensions
- Combining PEFT with quantization and distillation
- Use in low-resource and multilingual settings
- Future directions and active research areas
Summary and Next Steps
Cerințe
- An understanding of machine learning fundamentals
- Experience working with large language models (LLMs)
- Familiarity with Python and PyTorch
Audience
- Data scientists
- AI engineers
14 ore
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Booking
Cursuri de pregatire Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Enquiry
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Cerere de consultanta
Cerere de consultanta
Upcoming Courses
Cursuri înrudite
Advanced Techniques in Transfer Learning
14 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul învățării automate de nivel avansat care doresc să stăpânească tehnici de învățare prin transfer de ultimă generație și să le aplice la probleme complexe din lumea reală.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Înțeleagă conceptele și metodologiile avansate în învățarea prin transfer.
- Să implementeze tehnici de adaptare specifice domeniului pentru modelele pre-antrenate.
- Să aplice învățarea continuă pentru a gestiona sarcini și seturi de date în continuă evoluție.
- Să stăpânească reglarea fină multitask pentru a îmbunătăți performanța modelului în cadrul sarcinilor.
Citește mai mult...
AI Automation with n8n and LangChain
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor și profesioniștilor IT de toate nivelurile de calificare care doresc să automatizeze sarcini și procese folosind inteligența artificială fără a scrie coduri ample.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Să proiecteze și să implementeze fluxuri de lucru complexe utilizând interfața vizuală de programare n8n.
- Să integreze capabilitățile AI în fluxurile de lucru folosind LangChain.
- Să construiască chatbots și asistenți virtuali personalizați pentru diverse cazuri de utilizare.
- Efectuați analize și prelucrări avansate de date cu agenți AI.
Citește mai mult...
Automating Workflows with LangChain and APIs
14 oreAceastă instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează analiștilor de afaceri și inginerilor de automatizare de nivel începător care doresc să înțeleagă cum să utilizeze LangChain și API-urile pentru automatizarea sarcinilor repetitive și a fluxurilor de lucru.
La sfârșitul acestui curs, participanții vor fi capabili să:
- Să înțeleagă elementele de bază ale integrării API cu LangChain.
- Să automatizeze fluxurile de lucru repetitive utilizând LangChain și Python.
- Să utilizeze LangChain pentru a conecta diverse API-uri pentru procese de afaceri eficiente.
- Să creeze și să automatizeze fluxuri de lucru personalizate utilizând API-urile și capacitățile de automatizare ale LangChain.
Citește mai mult...
Building Conversational Agents with LangChain
14 oreAceastă formare live, condusă de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel mediu care doresc să își aprofundeze cunoștințele despre agenții conversaționali și să aplice LangChain la cazuri reale de utilizare.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să înțeleagă elementele fundamentale ale LangChain și aplicarea sa în construirea agenților conversaționali.
- Să dezvolte și să implementeze agenți conversaționali utilizând LangChain.
- Să integreze agenții conversaționali cu API-uri și servicii externe.
- Să aplice tehnici Natural Language Processing (NLP) pentru a îmbunătăți performanța agenților conversaționali.
Citește mai mult...
Building Private AI Workflows with Ollama
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să implementeze fluxuri de lucru sigure și eficiente bazate pe inteligența artificială utilizând Ollama.
La finalul acestei instruiri, participanții vor fi capabili să:
- Să implementeze și să configureze Ollama pentru procesarea AI privată.
- Să integreze modelele AI în fluxurile de lucru securizate ale întreprinderii.
- Să optimizeze performanța AI menținând în același timp confidențialitatea datelor.
- Să automatizeze procesele de afaceri cu ajutorul capacităților AI la fața locului.
- Să asigure conformitatea cu politicile de securitate și guvernanță ale întreprinderii.
Citește mai mult...
Deploying Fine-Tuned Models in Production
21 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să implementeze modele bine puse la punct în mod fiabil și eficient.
La sfârșitul acestui curs, participanții vor fi capabili să:
- Să înțeleagă provocările legate de implementarea în producție a modelelor bine reglate.
- Să containerizeze și să implementeze modele utilizând instrumente precum Docker și Kubernetes.
- Să implementeze monitorizarea și logarea pentru modelele implementate.
- Să optimizeze modelele pentru latență și scalabilitate în scenarii din lumea reală.
Citește mai mult...
Deploying and Optimizing LLMs with Ollama
14 oreAcest curs de formare live, condus de un instructor, în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel mediu care doresc să implementeze, să optimizeze și să integreze LLM-uri utilizând Ollama.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze și să implementeze LLM-uri utilizând Ollama.
- Să optimizeze modelele AI pentru performanță și eficiență.
- Să utilizeze accelerarea GPU pentru îmbunătățirea vitezelor de inferență.
- Să integreze Ollama în fluxuri de lucru și aplicații.
- Monitorizarea și menținerea performanței modelelor AI în timp.
Citește mai mult...
Ethical Considerations in AI Development with LangChain
21 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează cercetătorilor și factorilor de decizie din domeniul IA de nivel avansat care doresc să exploreze implicațiile etice ale dezvoltării IA și să învețe cum să aplice orientări etice atunci când creează soluții IA cu LangChain.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Identifice problemele etice cheie în dezvoltarea IA cu LangChain.
- Să înțeleagă impactul IA asupra societății și a proceselor decizionale.
- Să dezvolte strategii pentru crearea unor sisteme de inteligență artificială corecte și transparente.
- Să implementeze orientări etice privind IA în proiectele bazate pe LangChain.
Citește mai mult...
Enhancing User Experience with LangChain in Web Apps
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor web de nivel mediu și designerilor UX care doresc să utilizeze LangChain pentru a crea aplicații web intuitive și ușor de utilizat.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Înțeleagă conceptele fundamentale ale LangChain și rolul său în îmbunătățirea experienței utilizatorilor web.
- Să implementeze LangChain în aplicațiile web pentru a crea interfețe dinamice și receptive.
- Să integreze API-uri în aplicațiile web pentru a îmbunătăți interactivitatea și implicarea utilizatorilor.
- Optimizarea experienței utilizatorului utilizând caracteristicile avansate de personalizare ale LangChain.
- Analizați datele privind comportamentul utilizatorului pentru a regla performanța și experiența aplicațiilor web.
Citește mai mult...
Fine-Tuning and Customizing AI Models on Ollama
14 oreAceastă formare live, cu instructor, în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să ajusteze și să personalizeze modelele AI pe Ollama pentru o performanță sporită și aplicații specifice domeniului.
La sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze un mediu eficient pentru reglarea fină a modelelor AI pe Ollama.
- Să pregătească seturi de date pentru reglarea fină supervizată și învățarea prin consolidare.
- Să optimizeze modelele AI pentru performanță, acuratețe și eficiență.
- Implementați modele personalizate în medii de producție.
- Evaluați îmbunătățirile modelelor și asigurați robustețea.
Citește mai mult...
LangChain: Building AI-Powered Applications
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor de nivel mediu și inginerilor de software care doresc să construiască aplicații bazate pe inteligență artificială folosind cadrul LangChain.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Să înțeleagă elementele de bază ale LangChain și ale componentelor sale.
- Să integreze LangChain cu modele lingvistice mari (LLM) precum GPT-4.
- Să construiască aplicații modulare de inteligență artificială folosind LangChain.
- Să rezolve problemele comune în aplicațiile LangChain.
Citește mai mult...
Integrating LangChain with Cloud Services
14 oreAceastă instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează inginerilor de date de nivel avansat și profesioniștilor DevOps care doresc să valorifice capacitățile LangChain prin integrarea acestuia cu diverse servicii cloud.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să integreze LangChain cu principalele platforme cloud, cum ar fi AWS, Azure și Google Cloud.
- Să utilizeze API-uri și servicii bazate pe cloud pentru a îmbunătăți aplicațiile bazate pe LangChain.
- Scalați și implementați agenți conversaționali în cloud pentru interacțiune în timp real.
- Implementarea celor mai bune practici de monitorizare și securitate în mediile cloud.
Citește mai mult...
LangChain for Data Analysis and Visualization
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul datelor de nivel mediu care doresc să utilizeze LangChain pentru a-și îmbunătăți capacitățile de analiză și vizualizare a datelor.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să automatizeze extragerea și curățarea datelor utilizând LangChain.
- Să efectueze analize avansate de date utilizând Python și LangChain.
- Să creeze vizualizări cu Matplotlib și alte biblioteci Python integrate cu LangChain.
- Să utilizeze LangChain pentru a genera informații în limbaj natural din analiza datelor.
Citește mai mult...
LangChain Fundamentals
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor și inginerilor de software de nivel începător și intermediar care doresc să învețe conceptele de bază și arhitectura LangChain și să dobândească abilități practice pentru a crea aplicații cu inteligență artificială.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Înțeleagă principiile fundamentale ale LangChain.
- Să instaleze și să configureze mediul LangChain.
- Să înțeleagă arhitectura și modul în care LangChain interacționează cu modelele lingvistice mari (LLM).
- Să dezvolte aplicații simple utilizând LangChain.
Citește mai mult...
Getting Started with Ollama: Running Local AI Models
7 oreAceastă instruire live, cu instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel începător care doresc să instaleze, să configureze și să utilizeze Ollama pentru a rula modele AI pe mașinile lor locale.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să înțeleagă elementele de bază ale Ollama și capacitățile sale.
- Să configureze Ollama pentru a rula modele AI locale.
- Să implementeze și să interacționeze cu LLM-uri utilizând Ollama.
- Să optimizeze performanța și utilizarea resurselor pentru sarcinile de lucru AI.
- Explorarea cazurilor de utilizare pentru implementarea AI locală în diverse industrii.
Citește mai mult...
