Cursuri de pregatire Building Secure and Responsible LLM Applications
LLM application security is the discipline of designing, building, and maintaining safe, trustworthy, and policy-compliant systems using large language models.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.
By the end of this training, participants will be able to:
- Understand the core vulnerabilities of LLM-based systems.
- Apply secure design principles to LLM app architecture.
- Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
- Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Schița de curs
Overview of LLM Architecture and Attack Surface
- How LLMs are built, deployed, and accessed via APIs
- Key components in LLM app stacks (e.g., prompts, agents, memory, APIs)
- Where and how security issues arise in real-world use
Prompt Injection and Jailbreak Attacks
- What is prompt injection and why it’s dangerous
- Direct and indirect prompt injection scenarios
- Jailbreaking techniques to bypass safety filters
- Detection and mitigation strategies
Data Leakage and Privacy Risks
- Accidental data exposure through responses
- PII leaks and model memory misuse
- Designing privacy-conscious prompts and retrieval-augmented generation (RAG)
LLM Output Filtering and Guarding
- Using Guardrails AI for content filtering and validation
- Defining output schemas and constraints
- Monitoring and logging unsafe outputs
Human-in-the-Loop and Workflow Approaches
- Where and when to introduce human oversight
- Approval queues, scoring thresholds, fallback handling
- Trust calibration and role of explainability
Secure LLM App Design Patterns
- Least privilege and sandboxing for API calls and agents
- Rate limiting, throttling, and abuse detection
- Robust chaining with LangChain and prompt isolation
Compliance, Logging, and Governance
- Ensuring auditability of LLM outputs
- Maintaining traceability and prompt/version control
- Aligning with internal security policies and regulatory needs
Summary and Next Steps
Cerințe
- An understanding of large language models and prompt-based interfaces
- Experience building LLM applications using Python
- Familiarity with API integrations and cloud-based deployments
Audience
- AI developers
- Application and solution architects
- Technical product managers working with LLM tools
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Building Secure and Responsible LLM Applications - Booking
Cursuri de pregatire Building Secure and Responsible LLM Applications - Enquiry
Building Secure and Responsible LLM Applications - Cerere de consultanta
Cerere de consultanta
Upcoming Courses
Cursuri înrudite
Construirea de fluxuri de lucru AI private cu Ollama
14 oreAcest training cu instruire directă (online sau în mod prezențial) este destinat profesionistilor avansați care doresc să implementeze fluxuri de lucru bazate pe IA și sigure folosind Ollama.
La finalul acestui training, participanții vor putea:
- Instalați și configurați Ollama pentru procesarea AI privată.
- Integrați modelele IA în fluxuri de lucru enterprise sigure.
- Optimizați performanța AI menținând confidențialitatea datelor.
- Automatizați procesele de afaceri cu capacități AI locale.
- Asigurați conformitatea cu politiciile de securitate și guvernanță enterprise.
Claude AI for Content Creation
14 oreAcest training live, condus de un instructor în Moldova (online sau la fața locului) se adresează creatorilor de conținut, scriitorilor și marketerilor de nivel începător până la intermediar care doresc să utilizeze Claude AI pentru generarea, editarea și rezumarea conținutului pentru a îmbunătăți blogurile, rapoartele și materialele de marketing.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să utilizeze Claude AI pentru brainstorming de conținut și extinderea ideilor.
- Să îmbunătățească scrierea cu ajutorul editării și corecturii asistate de AI.
- Să genereze rezumate pentru conținutul de lungă durată și rapoarte.
- Să automatizeze crearea de texte de marketing pentru diferite platforme.
Claude AI for Developers: Building AI-Powered Applications
14 oreAceastă instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează dezvoltatorilor de software de nivel mediu și inginerilor AI care doresc să integreze Claude AI în aplicațiile lor, să construiască chatbots alimentați de AI și să îmbunătățească funcționalitatea software cu ajutorul automatizării bazate pe AI.
La sfârșitul acestui curs, participanții vor fi capabili să:
- Să utilizeze API-ul Claude AI pentru a integra inteligența artificială în aplicații.
- Să dezvolte chatbots și asistenți virtuali AI-driven.
- Să îmbunătățească aplicațiile cu ajutorul automatizării bazate pe AI și NLP.
- Să optimizeze și să ajusteze modelele Claude AI pentru diferite cazuri de utilizare.
Claude AI pentru Workflow Automation și Productivity
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel începător care doresc să integreze Claude AI în fluxurile lor de lucru zilnice pentru a îmbunătăți eficiența și automatizarea.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să utilizeze Claude AI pentru automatizarea sarcinilor repetitive și eficientizarea fluxurilor de lucru.
- Să îmbunătățească productivitatea personală și a echipei utilizând automatizarea bazată pe AI.
- Să integreze Claude AI cu instrumentele și platformele de afaceri existente.
- Să optimizeze luarea deciziilor și gestionarea sarcinilor bazate pe AI.
Implementarea și optimizarea LLM-urilor cu Ollama
14 oreAcest curs de formare live, condus de un instructor, în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel mediu care doresc să implementeze, să optimizeze și să integreze LLM-uri utilizând Ollama.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze și să implementeze LLM-uri utilizând Ollama.
- Să optimizeze modelele AI pentru performanță și eficiență.
- Să utilizeze accelerarea GPU pentru îmbunătățirea vitezelor de inferență.
- Să integreze Ollama în fluxuri de lucru și aplicații.
- Monitorizarea și menținerea performanței modelelor AI în timp.
Fine-Tuning și Personalizarea modelelor AI pe Ollama
14 oreAcest formator-guvernav, antrenament live în Moldova (online sau pe locație) se adresează profesionistilor cu nivel avansat care doresc să îmbunătățească și să personalizeze modelele AI pe Ollama pentru o performanță mai bună și aplicații specific domeniu.
La sfârșitul acestui antrenament, participanții vor putea:
- Configura un mediu eficient pentru îmbunătățirea modelelor AI pe Ollama.
- Prepara seturi de date pentru îmbunătățirea supravegheată și învățarea prin recompense.
- Optimiza modelele AI pentru performanță, acuratețe și eficiență.
- Implementa modele personalizate în medii de producție.
- Evaluarea îmbunătățirilor modelului și asigurarea robustezii.
Introducere în Google Gemini AI
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor de nivel începător și intermediar care doresc să integreze funcționalități de inteligență artificială în aplicațiile lor folosind Google Gemini AI.
La sfârșitul acestui curs de formare, participanții vor putea să:
- Înțeleagă elementele fundamentale ale modelelor lingvistice mari.
- Să configureze și să utilizeze Google Gemini AI pentru diverse sarcini de inteligență artificială.
- Să implementeze transformări text-în-text și imagine-în-text.
- Să construiască aplicații de bază bazate pe IA.
- Explorați caracteristicile avansate și opțiunile de personalizare în Google Gemini AI.
Google Gemini AI pentru Crearea de Conținut
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează creatorilor de conținut de nivel intermediar care doresc să utilizeze Google Gemini AI pentru a-și îmbunătăți calitatea și eficiența conținutului.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Înțeleagă rolul AI în crearea de conținut.
- Să configureze și să utilizeze Google Gemini AI pentru a genera și optimiza conținutul.
- Să aplice transformări text-în-text pentru a produce conținut creativ și original.
- Să implementeze strategii SEO folosind informații bazate pe AI.
- Analizați performanța conținutului și adaptați strategiile folosind Gemini AI.
Google Gemini AI pentru Servicii la Clienti Transformatorii
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul serviciilor pentru clienți de nivel mediu care doresc să implementeze Google Gemini AI în operațiunile lor de servicii pentru clienți.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Înțeleagă impactul AI asupra serviciilor de relații cu clienții.
- Să configureze Google Gemini AI pentru a automatiza și personaliza interacțiunile cu clienții.
- Să utilizeze transformările text-în-text și imagine-în-text pentru a îmbunătăți eficiența serviciilor.
- Să dezvoltați strategii bazate pe IA pentru analiza în timp real a feedback-ului clienților.
- Explorați funcțiile avansate pentru a crea o experiență perfectă de deservire a clienților.
Google Gemini AI pentru Data Analysis
21 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează analiștilor de date și profesioniștilor din domeniul afacerilor de nivel începător și intermediar care doresc să efectueze sarcini complexe de analiză a datelor mai intuitiv în diverse industrii folosind Google Gemini AI.
La finalul acestui training, participanții vor fi capabili să:
- Înțeleagă elementele fundamentale ale Google Gemini AI.
- Să conecteze diverse surse de date la Gemini AI.
- Să exploreze datele utilizând interogări în limbaj natural.
- Să analizeze modele de date și să obțină informații.
- Creați vizualizări de date convingătoare.
- Comunicați în mod eficient informațiile bazate pe date.
Intermediate Gemini AI for Public Sector Professionals
16 oreThis instructor-led, live training in Moldova (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Introducere în Claude AI: Conversational AI și Business Aplicații
14 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul afacerilor de nivel începător, echipelor de asistență pentru clienți și pasionaților de tehnologie care doresc să înțeleagă elementele de bază ale Claude AI și să le valorifice pentru aplicații de afaceri.
Până la sfârșitul acestui curs, participanții vor fi capabili să:
- Să înțeleagă capacitățile și cazurile de utilizare ale Claude AI.
- Să configureze și să interacționeze eficient cu Claude AI.
- Să automatizeze fluxurile de lucru de afaceri cu ajutorul inteligenței artificiale conversaționale.
- Să îmbunătățească implicarea și asistența clienților utilizând soluții bazate pe AI.
LangGraph Foundations: Graph-Based LLM Prompting and Chaining
14 oreLangGraph is a framework for building graph-structured LLM applications that support planning, branching, tool use, memory, and controllable execution.
This instructor-led, live training (online or onsite) is aimed at beginner-level developers, prompt engineers, and data practitioners who wish to design and build reliable, multi-step LLM workflows using LangGraph.
By the end of this training, participants will be able to:
- Explain core LangGraph concepts (nodes, edges, state) and when to use them.
- Build prompt chains that branch, call tools, and maintain memory.
- Integrate retrieval and external APIs into graph workflows.
- Test, debug, and evaluate LangGraph apps for reliability and safety.
Format of the Course
- Interactive lecture and facilitated discussion.
- Guided labs and code walkthroughs in a sandbox environment.
- Scenario-based exercises on design, testing, and evaluation.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Building Dynamic Workflows with LangGraph and LLM Agents
14 oreLangGraph is a framework for composing graph-structured LLM workflows that support branching, tool use, memory, and controllable execution.
This instructor-led, live training (online or onsite) is aimed at intermediate-level engineers and product teams who wish to combine LangGraph’s graph logic with LLM agent loops to build dynamic, context-aware applications such as customer support agents, decision trees, and information retrieval systems.
By the end of this training, participants will be able to:
- Design graph-based workflows that coordinate LLM agents, tools, and memory.
- Implement conditional routing, retries, and fallbacks for robust execution.
- Integrate retrieval, APIs, and structured outputs into agent loops.
- Evaluate, monitor, and harden agent behavior for reliability and safety.
Format of the Course
- Interactive lecture and facilitated discussion.
- Guided labs and code walkthroughs in a sandbox environment.
- Scenario-based design exercises and peer reviews.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Noțiuni introductive cu Ollama: Rularea modelelor AI locale
7 oreAcest training în direcția instructorului (online sau la sediu) este destinat profesionistilor cu nivel de începător care doresc să instaleze, să configureze și să folosească Ollama pentru a rula modele AI locale pe mașinile lor.
La sfârșitul acestui training, participanții vor fi capabili să:
- Înțeleg fundamentele și capacitățile lui Ollama.
- Configurați Ollama pentru a rula modele AI locale.
- Implementați și interacționați cu modelele LLM folosind Ollama.
- Optimizați performanța și utilizarea resurselor pentru sarcini de AI.
- Explorați cazuri de utilizare ale dezvoltării locale AI în diferite industrii.