Schița de curs
Ziua 1 – IA generativă & fundamentele LLM
Introducere în IA generativă și cazuri de utilizare a LLM-urilor
Înțelegerea modelelor bazate pe transformatoare (GPT, LLaMA, T5 etc.)
Tokeni, tokenizare și înglobări (embeddings)
Lucrul cu modele pre-antrenate prin API-uri (OpenAI, Claude)
Lucrul cu modele pre-antrenate prin Hugging Face
Fundamentele prompt-urilor: prompt-uri zero-shot și few-shot
Aplicație practică: inginerie de prompt-uri într-un notebook Python
Construirea unei aplicații simple bazate pe LLM (CLI sau web)
Limite practice: tokeni, limite de rată și tehnici de fiabilitate de bază
Ziua 2 – RAG și căutarea vectorială
De ce RAG: combinarea LLM-urilor cu datele proprii
Arhitectura RAG: ingerare, indexare, regăsire, generare
Pregătirea și împărțirea documentelor pentru regăsire
Generarea înglobărilor de text prin API-uri sau Hugging Face
Introducere în bazele de date vectoriale (de ex. Chroma, Pinecone)
Aplicație practică: construirea unui script de bază pentru căutare semantică
Aplicație practică: construirea unui sistem de întrebări și răspunsuri pe documente cu RAG
Extinderea ingerării și a înglobărilor (prezentare generală a fluxurilor de lucru cu date mari)
Compromisuri în proiectarea RAG: împărțire, top-k, cost vs. calitate
Ziua 3 – Fluxuri de lucru, agenți și producție
Ce sunt agenții AI și când să-i folosiți
Introducere în LangGraph și fluxurile de lucru LLM bazate pe grafuri
Aplicație practică: construirea unui flux de lucru simplu LangGraph cu instrumente
Adăugarea memoriei și a raționamentului multi-etapă la fluxurile de lucru
Combinarea RAG și a agenților (RAG agentiv)
Monitorizarea și evaluarea sistemelor LLM și RAG
Opțiuni de implementare pentru aplicații LLM (API-uri, containere, servicii)
Strategii de optimizare a costurilor și performanței
Siguranță de bază, măsuri de protecție și utilizare responsabilă
Proiect final: demonstrația unei aplicații complete RAG/agent
Cerințe
abilități solide de programare în Python și familiaritate cu API-urile.
Publicul țintă:
Acest curs este destinat organizațiilor care doresc să treacă de la experimentare la soluții reale bazate pe LLM. Este potrivit pentru ingineri software, backend și full-stack care integrează LLM-urile în produse și servicii; ingineri de date și machine learning care lucrează cu RAG, înglobări (embeddings) și căutare vectorială; arhitecți de soluții și enterprise care proiectează arhitecturi bazate pe LLM; precum și proprietari tehnici de produs și lideri de inginerie responsabili de evaluarea cazurilor de utilizare AI, costurilor și riscurilor.
Mărturii (2)
folosirea unor prompturi corecte și eficiente
Marses Pacaldo
Curs - Generative AI and Prompt Engineering for Corporate Professionals
Tradus de catre o masina
Stilul interactiv, exercițiile
Tamas Tutuntzisz
Curs - Introduction to Prompt Engineering
Tradus de catre o masina
