Curs de pregatire Modele de Limbaj Avansate (LLMs) pentru Sarcini de NLP

Introducere în LLMs și AI Generativă

• Explorarea tehnicilor și modelelor
• Discutarea aplicațiilor și cazurilor de utilizare
• Identificarea provocărilor și limitărilor

Utilizarea LLMs pentru Sarcini de NLU

• Analiza sentimentelor
• Recunoașterea entităților denumite
• Extragerea relațiilor
• Parsare semantică

Utilizarea LLMs pentru Sarcini de NLI

• Detectarea implicațiilor
• Detectarea contradicțiilor
• Detectarea parafrazelor

Utilizarea LLMs pentru Grafuri de Cunoștințe

• Extragerea faptelor și relațiilor din text
• Inferența faptelor lipsă sau noi
• Utilizarea grafurilor de cunoștințe pentru sarcini ulterioare

Utilizarea LLMs pentru Raționament de Bun-Simț

• Generarea de explicații, ipoteze și scenarii plauzibile
• Utilizarea bazelor de cunoștințe și seturilor de date de bun-simț
• Evaluarea raționamentului de bun-simț

Utilizarea LLMs pentru Generarea Dialogurilor

• Generarea dialogurilor cu agenți de conversație, roboți de chat și asistenți virtuali
• Gestionarea dialogurilor
• Utilizarea seturilor de date și metricilor pentru dialoguri

Utilizarea LLMs pentru Generarea Multimodală

• Generarea de imagini din text
• Generarea de text din imagini
• Generarea de videoclipuri din text sau imagini
• Generarea de audio din text
• Generarea de text din audio
• Generarea de modele 3D din text sau imagini

Utilizarea LLMs pentru Meta-Învățare

• Adaptarea LLMs la noi domenii, sarcini sau limbi
• Învățarea din exemple few-shot sau zero-shot
• Utilizarea seturilor de date și framework-urilor de meta-învățare și transfer de cunoștințe

Utilizarea LLMs pentru Învățare Adversarială

• Apărarea LLMs împotriva atacurilor malitioase
• Detectarea și atenuarea prejudecăților și erorilor în LLMs
• Utilizarea seturilor de date și metodelor de învățare adversarială și robustețe

Evaluarea LLMs și AI Generative

• Evaluarea calității și diversității conținutului
• Utilizarea metricilor precum scorul inception, distanța Fréchet inception și scorul BLEU
• Utilizarea metodelor de evaluare umană precum crowdsourcing și sondaje
• Utilizarea metodelor de evaluare adversarială precum testele Turing și discriminatoarele

Aplicarea Principiilor Etici pentru LLMs și AI Generativă

• Asigurarea corectitudinii și responsabilității
• Evitarea utilizării greșite și abuzului
• Respectarea drepturilor și confidențialității creatorilor și consumatorilor de conținut
• Promovarea creativității și colaborării dintre oameni și IA

Rezumat și Pași Următori