Schița de curs
Ziua 1 – IA generativă & fundamentele LLM
Introducere în IA generativă și cazuri de utilizare a LLM-urilor
Înțelegerea modelelor bazate pe transformatoare (GPT, LLaMA, T5 etc.)
Tokeni, tokenizare și înglobări (embeddings)
Lucrul cu modele pre-antrenate prin API-uri (OpenAI, Claude)
Lucrul cu modele pre-antrenate prin Hugging Face
Fundamentele prompt-urilor: prompt-uri zero-shot și few-shot
Aplicație practică: inginerie de prompt-uri într-un notebook Python
Construirea unei aplicații simple bazate pe LLM (CLI sau web)
Limite practice: tokeni, limite de rată și tehnici de fiabilitate de bază
Ziua 2 – RAG și căutarea vectorială
De ce RAG: combinarea LLM-urilor cu datele proprii
Arhitectura RAG: ingerare, indexare, regăsire, generare
Pregătirea și împărțirea documentelor pentru regăsire
Generarea înglobărilor de text prin API-uri sau Hugging Face
Introducere în bazele de date vectoriale (de ex. Chroma, Pinecone)
Aplicație practică: construirea unui script de bază pentru căutare semantică
Aplicație practică: construirea unui sistem de întrebări și răspunsuri pe documente cu RAG
Extinderea ingerării și a înglobărilor (prezentare generală a fluxurilor de lucru cu date mari)
Compromisuri în proiectarea RAG: împărțire, top-k, cost vs. calitate
Ziua 3 – Fluxuri de lucru, agenți și producție
Ce sunt agenții AI și când să-i folosiți
Introducere în LangGraph și fluxurile de lucru LLM bazate pe grafuri
Aplicație practică: construirea unui flux de lucru simplu LangGraph cu instrumente
Adăugarea memoriei și a raționamentului multi-etapă la fluxurile de lucru
Combinarea RAG și a agenților (RAG agentiv)
Monitorizarea și evaluarea sistemelor LLM și RAG
Opțiuni de implementare pentru aplicații LLM (API-uri, containere, servicii)
Strategii de optimizare a costurilor și performanței
Siguranță de bază, măsuri de protecție și utilizare responsabilă
Proiect final: demonstrația unei aplicații complete RAG/agent
Cerințe
abilități solide de programare în Python și familiaritate cu API-urile.
Publicul țintă:
Acest curs este destinat organizațiilor care doresc să treacă de la experimentare la soluții reale bazate pe LLM. Este potrivit pentru ingineri software, backend și full-stack care integrează LLM-urile în produse și servicii; ingineri de date și machine learning care lucrează cu RAG, înglobări (embeddings) și căutare vectorială; arhitecți de soluții și enterprise care proiectează arhitecturi bazate pe LLM; precum și proprietari tehnici de produs și lideri de inginerie responsabili de evaluarea cazurilor de utilizare AI, costurilor și riscurilor.
Mărturii (3)
Detalii complete despre context; cum să creezi un prompt.
Olaf Kannt - Helios Klinikum Krefeld
Curs - Generative AI and Prompt Engineering in Healthcare
Tradus de catre o masina
sfaturile și prompturile recomandate pe care le putem pune în practică în urma acestui training
Lee Mei Lin - ST Engineering IHQ Pte Ltd
Curs - InVideo AI: Creating Engaging Short-Form Videos
Tradus de catre o masina
folosirea unor prompturi corecte și eficiente
Marses Pacaldo
Curs - Generative AI and Prompt Engineering for Corporate Professionals
Tradus de catre o masina
