Curs de pregatire Spring AI

1. Introducere în Spring AI

• Creația și configurarea proiectului
• Rollul prompților și submiterea lor
• Scrierea unui prim test
• Alegerea unui model
• Configurarea modelului
• Prezentarea funcționalităților Spring AI

2. Înțelegerea răspunsurilor

• Cum verifici dacă răspunsurile sunt relevante
• Acuiziția la runtime

3. Prompții în detaliu

• Folosirea templates-urilor pentru prompți
• Definirea unui nou template de prompt
• Înțelegerea contextului
• Importanța roll-ului
• Înfluențarea generării răspunsurilor folosind opțiuni
• Streaming-ul și formatarea output-ului
• Metadatele din răspuns

4. Folosirea datelor și documentelor tale

• Înțelegerea RAG (Retrieval-Augmented Generation)
• Configurarea vector store-ului și încărcarea documentelor
• O primă implementare RAG
• RAG folosind un advisor
• Funcționalități modulare RAG

5. Rollul memoriei în AI

• De ce ai nevoie de memorie
• Adăugarea și configurarea memoriei pentru a susține conversațiile
• ID-ul conversației
• Suportul memoriei persistente
• Stocarea memoriei de chat în vector store

6. Instrumente de AI

• Aplicații cu activat suport pentru tools
• Înțelegerea capabilităților tools-urilor
• Scrierea și punerea în practică a unui tool
• Funcții ca tools

7. Model Context Protocol (MCP)

• De ce ai nevoie de MCP?
• Lucrul cu un MCP Client
• Scrierea unui MCP Server
• Baza de date și tools pentru MCP Server
• Înțelegerea transportului HTTP și SSE (Server-Sent Events)
• Expunerea prompților și resurselor

8. Monitorizarea operațiunilor

• Activarea metricilor actuator
• Verificarea operațiunilor pe vector store
• Observarea interacțiunii cu modelul
• Numărarea tokenilor
• Adăugarea tuturor în Prometheus și crearea unui dashboard
• Tracing-ul operațiunilor de AI

9. Măsurile de protecție în AI generativ

• Controlul documentelor accesate prin RAG
• Securizarea tools-urilor
• Contraatacarea la adversarial prompting
• Moderarea input-ului utilizatorului

10. Modele comune de AI generativ

• Rezumarea conținutului
• Traducerea mesajelor
• Analiza sentimentului

11. Rollul agenților

• Ce este un agent
• Implementarea fluxurilor de lucru agentic
• Înlănțuirea prompților, routing-ul task-urilor și paralelizarea
• Accesul la agenți prin MCP