Cursuri de pregatire Fine-Tuning Large Language Models Using QLoRA
QLoRA este o tehnică avansată pentru ajustarea fină a modelelor lingvistice de mare dimensiune (LLMs) prin intermediul metodelor de cuantificare, oferind un mod mai eficient de a ajusta aceste modele fără a însumeaza costuri computaționale masive. Această instruire va acoperi atât fundamentele teoretice, cât și implementarea practică a ajustării fine a LLMs folosind QLoRA.
Această instruire condusă de instructor (online sau la fața locului) este destinată inginerilor de învățare automată la nivel intermediar și avansat, dezvoltatorilor AI și știențistilor de date care doresc să învețe cum să folosească QLoRA pentru a ajusta eficient modelele mari pentru sarcini specifice și personalizări.
La finalul acestei instruirii, participanții vor putea:
- Să înțeleagă teoria din spatele QLoRA și tehnicile de cuantificare pentru LLMs.
- Să implementeze QLoRA în ajustarea fină a modelelor lingvistice de mare dimensiune pentru aplicații specifice domeniului.
- Să optimizze performanța ajustării fine pe resurse computaționale limitate folosind cuantificare.
- Să dezvolte și să evalueze modelele ajustate în aplicări din lumea reală eficient.
Formatul Cursului
- Prelegere interactivă și discuție.
- Multe exerciții și practică.
- Implementare hands-on într-un mediu de laborator live.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Mulțumim pentru trimiterea solicitării! Un membru al echipei noastre vă va contacta în curând.
Mulțumim pentru trimiterea rezervării! Un membru al echipei noastre vă va contacta în curând.
Schița de curs
Introducere la QLoRA și cuantificare
- Panoramă a cuantificării și rolul său în optimizarea modelelor
- Introducere în cadrul QLoRA și beneficiile sale
- Diferențele principale între QLoRA și metodele tradiționale de finetuning
Fundamentele modelelor lingvistice mari (LLMs)
- Introducere în LLMs și arhitectura lor
- Provocările fine-tuning-ului la scară largă a modelelor mari
- Cum ajută cuantificarea la depășirea constrângerilor computaționale în finetuning-ul LLMs
Implementarea QLoRA pentru finetuning LLMs
- Setarea cadrului QLoRA și a mediului de lucru
- Pregătirea seturilor de date pentru finetuning cu QLoRA
- Ghid pas-cu-pas pentru implementarea QLoRA pe LLMs folosind Python și PyTorch/TensorFlow
Optimizarea performanței fine-tuning-ului cu QLoRA
- Cum să echilibrați acuratețea modelului și performanța prin cuantificare
- Tehnici pentru reducerea costurilor de calcul și utilizării memoriei în timpul finetuning-ului
- Strategii pentru finetuning cu resurse hardware minime
Evaluarea modelelor fine-tunite
- Cum să evaluați eficacitatea modelelor fine-tunite
- Metrii de evaluare comune pentru modele lingvistice
- Optimizarea performanței modelului după finetuning și rezolvarea problemelor
Implementarea și scalarea modelelor fine-tunite
- Cum să implementați LLMs cuantificate în medii de producție
- Scalarea implementării pentru a gestiona cereri în timp real
- Ferramentare și cadre pentru implementarea și monitorizarea modelelor
Cazuri practice și studii de caz din lumea reală
- Studiu de caz: Finetuning LLMs pentru sprijin client și sarcini NLP
- Exemple de finetuning LLMs în diverse industrii precum sănătatea, financiară și e-commerce
- Lecții învățate din implementările din lumea reală ale modelelor bazate pe QLoRA
Rezumat și următorii pași
Cerințe
- O înțelegere a fundamentelor învățării automatice și rețelelor neuronale
- Experiență cu îmbunătățirea modelului și transferul de învățare
- Familiarizarea cu modelele lingvistice mari (LLMs) și cadrele de învățare profundă (de exemplu, PyTorch, TensorFlow)
Audiență
- Ingineri de învățare automată
- Dezvoltatori AI
- Cercetători în date
14 ore
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Fine-Tuning Large Language Models Using QLoRA - Rezervare
Cursuri de pregatire Fine-Tuning Large Language Models Using QLoRA - Solicitare
Fine-Tuning Large Language Models Using QLoRA - Cerere de consultanta
Cerere de consultanta
Cursuri viitoare
Cursuri înrudite
Avansat LangGraph: Optimizare, Depanare și Monitorizare a Grafurilor Complexe
35 oreAcest training live, condus de instrucțor (online sau pe locație) se adresează inginerilor avansați ai platformelor AI, DevOps pentru AI și arhitecții ML care dorește să optimizeze, debugeze, supravegheze și opereze sisteme LangGraph de producție.
La sfârșitul acestui training, participanții vor putea:
- Să dezvolte și optimizeze topologii complexe LangGraph pentru viteză, costuri și scalabilitate.
- Să inginerizeze fiabilitatea prin reîncercări, timeout-uri, idempotentitate și recuperare bazată pe checkpoint.
- Să debugeze și urmărească execuțiile grafelelor, să inspecteze starea și să reproduca sistematic problemele de producție.
- Să echipamente grafurile cu jurnale, metrice și traseuri, să le deployeze în producție și să monitorizeze SLAs și costurile.
Format al cursului
- Lecții interactive și discuții.
- Multe exerciții și practică.
- Punere în aplicare practică într-un mediu de laborator live.
Opțiuni pentru personalizarea cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a face aranjamente.
Citește mai mult...
Construire Agenti de Codificare cu Devstral: De la Designul Agentului până la Instrumentele de Dezvoltare
14 oreDevstral este un cadru open-source conceput pentru construirea și executarea agenților de codare care pot interacționa cu bazele de cod, instrumentele dezvoltatorilor și API-urile pentru a crește productivitatea ingineritului.
Acest antrenament condus de instructor (online sau la fața locului) este destinat inginerilor ML intermediari până la avansați, echipelor de instrumente de dezvoltare și SRE-urilor care doresc să proiecteze, implementeze și optimizze agenții de codare folosind Devstral.
La finalul acestui antrenament, participanții vor putea:
- Setați și configurați Devstral pentru dezvoltarea agenților de codare.
- Proiectați fluxuri de lucru agentești pentru explorarea și modificarea bazei de cod.
- Integrați agenții de codare cu instrumentele dezvoltatorului și API-urile.
- Implementați cele mai bune practici pentru implementarea sigură și eficientă a agentilor.
Formatul cursului
- Predare interactivă și discuție.
- Multe exerciții și practică.
- Implementare directă într-un mediu de laborator live.
Opțiuni de personalizare a cursului
- Pentru a solicita un antrenament personalizat pentru acest curs, vă rugăm să ne contactați pentru a face aranjamente.
Citește mai mult...
Open-Source Model Ops: Self-Hosting, Fine-Tuning and Governance with Devstral & Mistral Models
14 oreModelele Devstral și Mistral sunt tehnologii AI opensource concepute pentru o implementare flexibilă, ajustarea fină și integrarea scalabilă.
Această instruire în prezența instructorului (online sau pe loc) este destinată inginerilor ML intermediari până la avansați, echipelor de platformă și inginerilor de cercetare care doresc să găzduiască local, să ajusteze fin și să gestioneze modelele Mistral și Devstral în medii de producție.
La sfârșitul acestei instruire, participanții vor putea:
- Configura mediile de gazduiere locală pentru modelele Mistral și Devstral.
- Aplica tehnici de ajustare fină pentru performanțe specifice domeniului.
- Implementa versiunarea, monitorizarea și guvernanța lifecycle.
- Asigura securitatea, conformitatea și utilizarea responsabilă a modelelor opensource.
Formatul Cursului
- Prezentare interactivă și discuție.
- Exerciții practice de gazduiere locală și ajustare fină.
- Implementarea live a pipeline-urilor de guvernanță și monitorizare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un antrenament personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja detaliile.
Citește mai mult...
Aplicațiile LangGraph în Finanțe
35 oreLangGraph este un cadru pentru construirea aplicațiilor LLM stateful și multiactor ca grafuri compozabile cu stare persistentă și control asupra execuției.
Acest training live, condus de un instrucător (online sau pe locație), se adresează profesionistilor intermediari până la avansați care dorește să proiecteze, implementeze și opereze soluții financiare bazate pe LangGraph cu o guvernanță, observabilitate și conformitate adecvată.
La sfârșitul acestui training, participantii vor putea:
- Să proiecteze fluxuri de lucru specific financiar ale LangGraph aliniate cu cerințele regulatorii și auditului.
- Să integreze standardurile și ontologiile de date financiare în starele graficului și instrumentele.
- Să implementeze fiabilitate, siguranță și controale umane în bucle pentru procese critice.
- Să distribuie, monitorizeze și optimizare sisteme LangGraph pentru performanță, costuri și SLAs.
Formatul cursului
- Curs interactiv și discuții.
- Multe exerciții și practică.
- Implementare cu participare activă într-un mediu de laborator live.
Opțiuni pentru personalizarea cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
Fundamentele LangGraph: Stimularea și lanțuirea bazată pe grafice pentru LLM-uri
14 oreLangGraph este un cadru pentru construirea de aplicații LLM structurate în grafice care susțin planificarea, ramificarea, utilizarea instrumentelor, memorie și execuția controlabilă.
Acest training live sub supravegherea unui instrucțuator (online sau presență) se adresează dezvoltatorilor de nivel începător, inginerii prompt și practicienii datelor care doresc să proiecteze și construiască fluxuri de lucru LLM multiple etape, fiabile, folosind LangGraph.
La finalul acestui training, participanții vor putea:
- Explica conceptele principale ale lui LangGraph (noduri, muchii, stare) și când să le folosească.
- Construiți lanțuri de prompt care se ramificează, apelează la instrumente și mențin memorie.
- Integrare recuperare și API-uri externe în fluxurile de lucru grafič.
- Să testeze, depisteze erori și să evalueze aplicațiile LangGraph pentru fiabilitate și siguranță.
Format al cursului
- Conferințe interactive și discuții facilitate.
- Laboratoare guidați și parcurgere cod într-un mediu sandbox.
- Exerciții bazate pe scenarii privind proiectarea, testarea și evaluarea.
Opcțiuni de personalizare a cursului
- Pentru a solicita un training personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja.
Citește mai mult...
LangGraph în sănătate: Orchesterizare a fluxurilor de lucru pentru medii regulate
35 oreLangGraph permite fluxuri de lucru stateful și multiactori alimentate de LLMs cu control precis asupra traiectoriilor de execuție și persistenței stării. În sănătate, aceste capacități sunt cruciale pentru conformitatea, interoperabilitatea și construirea sistemelor de suport la decizii care se aliniază cu fluxurile de lucru medicale.
Acest instruire directivă (online sau pe locație) este destinată profesionistilor de nivel intermediar până avansat care dorește să conceapă, implementeze și administreze soluții LangGraph pentru sănătate, abordând provocările regulate, etice și operaționale.
La finalul acestei instruire, participanții vor putea:
- Să conceapă fluxuri de lucru specifice pentru sănătate în LangGraph cu menținerea conformității și auditabilității.
- Să integreze aplicațiile LangGraph cu ontologiile medicale și standardurile (FHIR, SNOMED CT, ICD).
- Să aplique cele mai bune practici pentru fiabilitatea, tracabilizarea și explicabilitatea în medii senzitive.
- Să deployeze, monitorizeze și valideze aplicațiile LangGraph în setările de producție din sănătate.
Format al cursului
- Lecții interacutive și discuții.
- Exerciții practice cu studii de caz reale.
- Practică de implementare într-un mediu de laborator live.
Opțiuni de personalizare a cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
LangGraph pentru Aplicații Legale
35 oreLangGraph este un cadru de lucru pentru construirea aplicațiilor LLM cu mai mulți actori, ca grafuri compunibile cu stare persistentă și control precis asupra execuției.
Această instruire condusă de instructor (online sau la fața locului) este adresată profesionistilor de nivel intermediar până la avansat care doresc să conceapă, să implementeze și să opereze soluții legale bazate pe LangGraph cu controale necesare în ceea ce privește conformitatea, traceabilitatea și guvernanța.
La sfârșitul acestei instruirări, participanții vor fi capabili să:
- Conspună fluxuri de lucru specifice domeniului legal ale LangGraph care păstrează auditabilitatea și conformitatea.
- Integreze ontologii legale și standarde documentare în starea grafică și procesarea acestuia.
- Implementeze garduri de protecție, aprobări cu implicarea umană și căi de decizie traceabile.
- Așeze, monitorizeze și mențină serviciile LangGraph în producție cu observabilitate și controale de cost.
Formatul Cursului
- Prezentare interactivă și discuție.
- Mulți exerciții și practici.
- Implementare practică într-un mediu live-lab.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
Construirea de Fluxuri Dinamice cu LangGraph și Agenti LLM
14 oreLangGraph este un cadru pentru compunerea fluxurilor de lucru structurați ca grafuri care susțin ramificare, utilizarea instrumentelor, memorie și execuție controlabilă.
Acest învățământ direct (online sau presencial) se adresează inginerilor de nivel mediu și echipele de produse care doresc să combine logica grafică a LangGraph cu ciclurile agentelor LLM pentru a construi aplicații dinamice și sensibile la context, cum ar fi agenți de suport clienti, arborele decizional sau sisteme de recuperare a informațiilor.
La finalul acestui învățământ, participanții vor putea:
- Să dezvolte fluxuri de lucru bazate pe grafuri care coordonează agenții LLM, instrumentele și memoria.
- Să implementeze rutare condițională, repetări și planuri de rezervă pentru o execuție robustă.
- Să integreze recuperarea datelor, API-uri și iesiri structurate în ciclurile agenților.
- Să evalueze, monitorizeze și consolideze comportamentul agentului pentru fiabilitate și siguranță.
Formatul cursului
- Prelegeri interactive și discuții facilitate.
- Laboratoare guiâte și parcurgerea codului într-un mediu sandbox.
- Exerciții de design bazate pe scenarii și reviste peer-to-peer.
Opțiuni pentru personalizarea cursului
- Pentru a solicita un învățământ personalizat pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
LangGraph pentru Automatizarea Marketingului
14 oreLangGraph este un cadru de orchestrare bazat pe grafuri care permite fluxuri de lucru conditionale și cu mai mulți pași ale LLM și al unor instrumente, ideal pentru automatizarea și personalizarea canalurilor de conținut.
Această instruire în-directie, live (online sau pe fața locului) este adresată marketerilor intermediari, strategiștilor de conținut și dezvoltatorilor de automatizare care doresc să implementeze campanii de email dinamice cu ramificații și canale de generare a conținutului folosind LangGraph.
La sfârșitul acestei instruirile, participanții vor putea:
- Proiecta canale de conținut și email structurate pe grafuri cu logică condițională.
- Integra LLM-uri, API-uri și surse de date pentru personalizarea automatizată.
- Gestiona starea, memoria și contextul în cadrul campaniilor cu mai mulți pași.
- Evaluare, monitorizare și optimizare a performanței și a rezultatelor de livrare ale fluxurilor de lucru.
Formatul Cursului
- Prelegeri interactive și discuții de grup.
- Laboratoare practice implementând canale de email și fluxuri de conținut.
- Exerciții bazate pe scenarii privind personalizarea, segmentarea și logicile de ramificare.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
Le Chat Enterprise: ChatOps Privat, Integrale și Controluri de Administrare
14 oreLe Chat Enterprise este o soluție privată de ChatOps care oferă capacabilități de IA conversațională sigure, personalizabile și guvernată pentru organizații, cu suport pentru RBAC, SSO, conectori și integrări cu aplicații enterprise.
Această instruire condusă de instructor (online sau prezențial) este destinată managerilor de produs la nivel intermediar, liderilor IT, inginerilor soluțiilor și echipelor de securitate/compliență care doresc să implementeze, să configureze și să administreze Le Chat Enterprise în medii enterprise.
La finalul acestei instruirile, participanții vor putea:
- Să seteze și să configureze Le Chat Enterprise pentru implementări sigure.
- Să activeze RBAC, SSO și controale impuse de compliență.
- Să integreze Le Chat cu aplicații enterprise și depozite de date.
- Să proiecteze și să implementeze cărți de joc pentru administrarea și guvernanța ChatOps.
Formatul cursului
- Predare interactivă și discuție.
- Multe exerciții și practici.
- Implementarea hands-on într-un mediu live-lab.
Opțiuni de personalizare a cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a programa.
Citește mai mult...
Cost-Effective LLM Architectures: Mistral at Scale (Performance / Cost Engineering)
14 oreMistral este o familie de modele lingvistice mari cu performanță ridicată, optimizate pentru implementarea în producție la scară largă și costuri reduse.
Această instruire condusă de instructor (online sau pe loc) este destinată inginerilor avansați de infrastructură, arhitecților cloud și liderilor MLOps care doresc să conceapă, implementeze și optimizeze arhitecturi bazate pe Mistral pentru maximizarea debitului și minimizarea costurilor.
La finalul acestei instruirii, participanții vor putea:
- Implementa modele de implementare scalabile pentru Mistral Medium 3.
- Aplica strategii de lotare, cuantificare și servire eficientă.
- Optimiza costurile de inferență păstrând performanța.
- Concepe topologii de servire pregătite pentru producție pentru sarcinile de lucru enterprise.
Formatul cursului
- Prezentare interactivă și discuție.
- Multe exerciții și practică.
- Implementare practică într-un mediu live-lab.
Opțiuni de personalizare a cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a aranja detaliile.
Citește mai mult...
Productizarea Asistenților Conversaționali cu Conectoare și Integrări Mistral
14 oreMistral AI este o platformă de IA deschisă care permite echipele să construiască și integreze asistenți conversaționali în fluxurile de lucru ale întreprinderilor și față către clienți.
Această instruire condusă de instructor (online sau prezent) este destinate managerilor de produs la nivel începător până la nivel intermediar, dezvoltatorilor full-stack și inginerilor de integrare care doresc să proiecteze, integreze și să producă asistenți conversaționali folosind conectoarele și integrațiile Mistral.
La finalul acestei instrueri, participanții vor fi capabili să:
- Integreze modele conversaționale Mistral cu conectoare enterprise și SaaS.
- Implementeze generația augmentată de retragere (RAG) pentru răspunsuri fundamentate.
- Proiecteze pattern-uri UX pentru asistenți chat interni și externi.
- Introducă asistenții în fluxurile de lucru ale produselor pentru cazuri reale.
Formatul cursului
- Prezentație interactivă și discuție.
- Exerciții practice de integrare.
- Dezvoltarea asistenților conversaționali în mediu live-lab.
Opțiuni de personalizare a cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a programa.
Citește mai mult...
Enterprise-Grade Deployments with Mistral Medium 3
14 oreMistral Medium 3 este un model lingvistic de dimensiuni mari, cu performanță ridicată și multimodal, conceput pentru implementări de grad producție în mediile enterprise.
Acest curs instruit de instructor (online sau la locația solicitată) este destinat inginerilor AI/ML de nivel intermediar până la avansat, arhitecților platformelor și echipelor MLOps care doresc să implementeze, optimizate și să asigure securitatea Mistral Medium 3 pentru cazurile de utilizare enterprise.
La sfârșitul acestui antrenament, participanții vor putea:
- Implementa Mistral Medium 3 folosind opțiuni API și self-hosted.
- Optimiza performanța inferinței și costurile.
- Aplica cazuri de utilizare multimodale cu Mistral Medium 3.
- Aplica cele mai bune practici în domeniul securității și conformității pentru mediile enterprise.
Formatul Cursului
- Predare interactivă și discuție.
- Multe exerciții și practici.
- Implementarea manuală într-un mediu live-lab.
Opțiuni de Personalizare a Cursului
- Pentru a solicita un antrenament personalizat pentru acest curs, vă rugăm să ne contactați pentru a aranja detaliile.
Citește mai mult...
Mistral pentru Inteligență Artificială Responsabilă: Confidențialitate, Residență Datelor și Controluri de Enterprize
14 oreMistral AI este o platformă de IA deschisă și pregătită pentru întreprindere, care oferă funcționalități pentru implementarea responsabilă a IA, într-un mod sigur, conform regulilor și etic.
Acest antrenament live, condus de instrucțiune (online sau prezent), este destul pentru conducerea la nivel intermediar a compliance-ului, arhitecții securității și stakeholderi legal/operaționali care doresc să implementeze practici responsabile ale IA cu Mistral prin utilizarea mecanismelor de confidențialitate, rezidență a datelor și control al întreprinderii.
La sfârșitul acestui antrenament, participanții vor putea:
- Implementa tehnici de protecție a confidențialității în implementările Mistral.
- Aplica strategii de rezidență a datelor pentru a satisface cerințele reglementare.
- Configura controale de nivel întreprindere, cum ar fi RBAC, SSO și jurnalele de audit.
- Evalueze opțiunile de furnizori și implementare pentru alinierea la compliance.
Formatul Cursului
- Lecție interactivă și discuție.
- Cazuri de studiu și exerciții orientate pe compliance.
- Implementare practică a controlurilor de IA pentru întreprinderi.
Opțiuni de Personalizare ale Cursului
- Pentru a solicita un antrenament personalizat pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
Aplicații Multimodale cu Modele Mistral (Viziune, OCR și Înțelegerea Documentelor)
14 oreAcest instruire condusă de instructor (online sau prezențial) este destinată cercetătorilor ML intermediari, inginerilor aplicativi și echipelor de produse care doresc să construiască aplicații multimodale cu modele Mistral, inclusiv pipeline-uri OCR și înțelegere a documentelor.
La sfârșitul acestei instruirile, participanții vor putea:
- Setați și configurați modelele Mistral pentru sarcini multimodale.
- Implementați fluxuri de lucru OCR și le integrați cu pipeline-urile NLP.
- Proiectați aplicații de înțelegere a documentelor pentru cazuri de utilizare enterprise.
- Dezvoltați funcționalități de căutare vizual-text și asistență UI.
Formatul Cursului
- Prezentare interactivă și discuție.
- Exerciții de codificare practice.
- Implementarea live-lab a pipeline-urilor multimodale.
Opțiuni de Personalizare a Cursului
- Pentru a solicita o instruire personalizată pentru acest curs, vă rugăm să ne contactați pentru a organiza.
Citește mai mult...
