Schița de curs
Ziua 1 – Fundamentele Inteligenței Artificiale Generative și ale LLM
Introducere în inteligența artificială generative și cazurile de utilizare LLM
Înțelegerea modelelor bazate pe transformatori (GPT, LLaMA, T5, etc.)
Tokeni, tokenizare și încorporări
Lucrul cu modele preantrenate prin API-uri (OpenAI, Claude)
Lucrul cu modele preantrenate prin Hugging Face
Fundamentele prompt-ului: prompt-uri zero-shot și few-shot
Lucru practic: inginerie de prompt într-un notebook Python
Construirea unei aplicații simple bazate pe LLM (CLI sau web)
Limite practice: tokeni, limite de rată și tehnici de bază de fiabilitate
Ziua 2 – RAG și Căutarea Vectorială
De ce RAG: combinarea LLM-urilor cu propriile date
Arhitectura RAG: ingestie, indexare, recuperare, generare
Pregătirea și segmentarea documentelor pentru recuperare
Generarea încorporărilor de text cu API-uri sau Hugging Face
Introducere în depozitele vectoriale (de ex. Chroma, Pinecone)
Lucru practic: construirea unui script de căutare semantică de bază
Lucru practic: construirea unui sistem de întrebări și răspunsuri cu RAG
Scalarea ingestiei și încorporărilor (prezentare generală a fluxurilor de lucru cu date mari)
Compromisuri de proiectare în RAG: segmentare, top-k, cost vs calitate
Ziua 3 – Fluxuri de Lucru, Agenți și Producție
Ce sunt agenții AI și când să fie utilizați
Introducere în LangGraph și fluxurile de lucru bazate pe grafuri LLM
Lucru practic: construirea unui flux de lucru LangGraph simplu cu instrumente
Adăugarea memoriei și raționamentului în mai mulți pași la fluxurile de lucru
Combinarea RAG și agenților (RAG agentic)
Monitorizarea și evaluarea sistemelor LLM și RAG
Opțiuni de implementare pentru aplicații LLM (API-uri, containere, servicii)
Strategii de optimizare a costurilor și performanței
Siguranță de bază, bariere și utilizare responsabilă
Mini-proiect final: demonstrație de aplicație RAG/agent de la cap la capăt demo
Cerințe
competențe solide de programare în Python și familiarizare cu API-uri.
Publicul țintă:
Acest curs este destinat organizațiilor care doresc să treacă de la experimentare la soluții reale bazate pe LLM. Este potrivit pentru ingineri de software, backend și full-stack care integrează LLM-uri în produse și servicii; ingineri de date și învățare automată care lucrează cu RAG, încorporări și căutare vectorială; arhitecți de soluții și întreprinderi care proiectează arhitecturi bazate pe LLM; precum și proprietari de produse tehnice și lideri de inginerie responsabili de evaluarea cazurilor de utilizare, costurilor și riscurilor AI.
Mărturii (2)
Stilul interactiv, exercițiile
Tamas Tutuntzisz
Curs - Introduction to Prompt Engineering
Tradus de catre o masina
Un depozit excelent de resurse pentru viitor, stilul instrucționist (plin de umor și cu un nivel de detaliu foarte bun)
Adam - GE Aerospace Poland Sp. z o.o.
Curs - Prompt Engineering for ChatGPT
Tradus de catre o masina
