Cursuri de pregatire Building Secure and Responsible LLM Applications
LLM application security is the discipline of designing, building, and maintaining safe, trustworthy, and policy-compliant systems using large language models.
This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.
By the end of this training, participants will be able to:
- Understand the core vulnerabilities of LLM-based systems.
- Apply secure design principles to LLM app architecture.
- Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
- Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Schița de curs
Overview of LLM Architecture and Attack Surface
- How LLMs are built, deployed, and accessed via APIs
- Key components in LLM app stacks (e.g., prompts, agents, memory, APIs)
- Where and how security issues arise in real-world use
Prompt Injection and Jailbreak Attacks
- What is prompt injection and why it’s dangerous
- Direct and indirect prompt injection scenarios
- Jailbreaking techniques to bypass safety filters
- Detection and mitigation strategies
Data Leakage and Privacy Risks
- Accidental data exposure through responses
- PII leaks and model memory misuse
- Designing privacy-conscious prompts and retrieval-augmented generation (RAG)
LLM Output Filtering and Guarding
- Using Guardrails AI for content filtering and validation
- Defining output schemas and constraints
- Monitoring and logging unsafe outputs
Human-in-the-Loop and Workflow Approaches
- Where and when to introduce human oversight
- Approval queues, scoring thresholds, fallback handling
- Trust calibration and role of explainability
Secure LLM App Design Patterns
- Least privilege and sandboxing for API calls and agents
- Rate limiting, throttling, and abuse detection
- Robust chaining with LangChain and prompt isolation
Compliance, Logging, and Governance
- Ensuring auditability of LLM outputs
- Maintaining traceability and prompt/version control
- Aligning with internal security policies and regulatory needs
Summary and Next Steps
Cerințe
- An understanding of large language models and prompt-based interfaces
- Experience building LLM applications using Python
- Familiarity with API integrations and cloud-based deployments
Audience
- AI developers
- Application and solution architects
- Technical product managers working with LLM tools
14 ore
Cursurile publice necesita 5+ participanti
Cursuri de pregatire Building Secure and Responsible LLM Applications - Booking
Cursuri de pregatire Building Secure and Responsible LLM Applications - Enquiry
Building Secure and Responsible LLM Applications - Cerere de consultanta
Cerere de consultanta
Upcoming Courses
Cursuri înrudite
Building Private AI Workflows with Ollama
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să implementeze fluxuri de lucru sigure și eficiente bazate pe inteligența artificială utilizând Ollama.
La finalul acestei instruiri, participanții vor fi capabili să:
- Să implementeze și să configureze Ollama pentru procesarea AI privată.
- Să integreze modelele AI în fluxurile de lucru securizate ale întreprinderii.
- Să optimizeze performanța AI menținând în același timp confidențialitatea datelor.
- Să automatizeze procesele de afaceri cu ajutorul capacităților AI la fața locului.
- Să asigure conformitatea cu politicile de securitate și guvernanță ale întreprinderii.
Citește mai mult...
Claude AI for Content Creation
14 oreAcest training live, condus de un instructor în Moldova (online sau la fața locului) se adresează creatorilor de conținut, scriitorilor și marketerilor de nivel începător până la intermediar care doresc să utilizeze Claude AI pentru generarea, editarea și rezumarea conținutului pentru a îmbunătăți blogurile, rapoartele și materialele de marketing.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să utilizeze Claude AI pentru brainstorming de conținut și extinderea ideilor.
- Să îmbunătățească scrierea cu ajutorul editării și corecturii asistate de AI.
- Să genereze rezumate pentru conținutul de lungă durată și rapoarte.
- Să automatizeze crearea de texte de marketing pentru diferite platforme.
Citește mai mult...
Claude AI for Developers: Building AI-Powered Applications
14 oreAceastă instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează dezvoltatorilor de software de nivel mediu și inginerilor AI care doresc să integreze Claude AI în aplicațiile lor, să construiască chatbots alimentați de AI și să îmbunătățească funcționalitatea software cu ajutorul automatizării bazate pe AI.
La sfârșitul acestui curs, participanții vor fi capabili să:
- Să utilizeze API-ul Claude AI pentru a integra inteligența artificială în aplicații.
- Să dezvolte chatbots și asistenți virtuali AI-driven.
- Să îmbunătățească aplicațiile cu ajutorul automatizării bazate pe AI și NLP.
- Să optimizeze și să ajusteze modelele Claude AI pentru diferite cazuri de utilizare.
Citește mai mult...
Claude AI for Research and Knowledge Management
14 oreAceastă instruire live, cu instructor, în Moldova (online sau la fața locului) se adresează cercetătorilor de nivel mediu, analiștilor și lucrătorilor din domeniul cunoașterii care doresc să valorifice Claude AI pentru prelucrarea unor cantități mari de date, sintetizarea informațiilor și automatizarea sarcinilor de cercetare.
La sfârșitul acestui curs, participanții vor fi capabili să:
- Să utilizeze Claude AI pentru revizuirea literaturii de specialitate și sinteza cercetării.
- Să sintetizeze rapoarte, lucrări de cercetare și documente de formă lungă.
- Să extragă informații cheie și tendințe din date structurate și nestructurate.
- Să integreze Claude AI în fluxurile de lucru de cercetare și gestionare a cunoștințelor.
Citește mai mult...
Claude AI for Workflow Automation and Productivity
14 oreAcest curs de formare live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel începător care doresc să integreze Claude AI în fluxurile lor de lucru zilnice pentru a îmbunătăți eficiența și automatizarea.
Până la sfârșitul acestui training, participanții vor fi capabili să:
- Să utilizeze Claude AI pentru automatizarea sarcinilor repetitive și eficientizarea fluxurilor de lucru.
- Să îmbunătățească productivitatea personală și a echipei utilizând automatizarea bazată pe AI.
- Să integreze Claude AI cu instrumentele și platformele de afaceri existente.
- Să optimizeze luarea deciziilor și gestionarea sarcinilor bazate pe AI.
Citește mai mult...
Deploying and Optimizing LLMs with Ollama
14 oreAcest curs de formare live, condus de un instructor, în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel mediu care doresc să implementeze, să optimizeze și să integreze LLM-uri utilizând Ollama.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze și să implementeze LLM-uri utilizând Ollama.
- Să optimizeze modelele AI pentru performanță și eficiență.
- Să utilizeze accelerarea GPU pentru îmbunătățirea vitezelor de inferență.
- Să integreze Ollama în fluxuri de lucru și aplicații.
- Monitorizarea și menținerea performanței modelelor AI în timp.
Citește mai mult...
Fine-Tuning and Customizing AI Models on Ollama
14 oreAceastă formare live, cu instructor, în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel avansat care doresc să ajusteze și să personalizeze modelele AI pe Ollama pentru o performanță sporită și aplicații specifice domeniului.
La sfârșitul acestei formări, participanții vor fi capabili să:
- Să configureze un mediu eficient pentru reglarea fină a modelelor AI pe Ollama.
- Să pregătească seturi de date pentru reglarea fină supervizată și învățarea prin consolidare.
- Să optimizeze modelele AI pentru performanță, acuratețe și eficiență.
- Implementați modele personalizate în medii de producție.
- Evaluați îmbunătățirile modelelor și asigurați robustețea.
Citește mai mult...
Introduction to Google Gemini AI
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor de nivel începător și intermediar care doresc să integreze funcționalități de inteligență artificială în aplicațiile lor folosind Google Gemini AI.
La sfârșitul acestui curs de formare, participanții vor putea să:
- Înțeleagă elementele fundamentale ale modelelor lingvistice mari.
- Să configureze și să utilizeze Google Gemini AI pentru diverse sarcini de inteligență artificială.
- Să implementeze transformări text-în-text și imagine-în-text.
- Să construiască aplicații de bază bazate pe IA.
- Explorați caracteristicile avansate și opțiunile de personalizare în Google Gemini AI.
Citește mai mult...
Google Gemini AI for Content Creation
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează creatorilor de conținut de nivel intermediar care doresc să utilizeze Google Gemini AI pentru a-și îmbunătăți calitatea și eficiența conținutului.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Înțeleagă rolul AI în crearea de conținut.
- Să configureze și să utilizeze Google Gemini AI pentru a genera și optimiza conținutul.
- Să aplice transformări text-în-text pentru a produce conținut creativ și original.
- Să implementeze strategii SEO folosind informații bazate pe AI.
- Analizați performanța conținutului și adaptați strategiile folosind Gemini AI.
Citește mai mult...
Google Gemini AI for Transformative Customer Service
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul serviciilor pentru clienți de nivel mediu care doresc să implementeze Google Gemini AI în operațiunile lor de servicii pentru clienți.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Înțeleagă impactul AI asupra serviciilor de relații cu clienții.
- Să configureze Google Gemini AI pentru a automatiza și personaliza interacțiunile cu clienții.
- Să utilizeze transformările text-în-text și imagine-în-text pentru a îmbunătăți eficiența serviciilor.
- Să dezvoltați strategii bazate pe IA pentru analiza în timp real a feedback-ului clienților.
- Explorați funcțiile avansate pentru a crea o experiență perfectă de deservire a clienților.
Citește mai mult...
Google Gemini AI for Data Analysis
21 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează analiștilor de date și profesioniștilor din domeniul afacerilor de nivel începător și intermediar care doresc să efectueze sarcini complexe de analiză a datelor mai intuitiv în diverse industrii folosind Google Gemini AI.
La finalul acestui training, participanții vor fi capabili să:
- Înțeleagă elementele fundamentale ale Google Gemini AI.
- Să conecteze diverse surse de date la Gemini AI.
- Să exploreze datele utilizând interogări în limbaj natural.
- Să analizeze modele de date și să obțină informații.
- Creați vizualizări de date convingătoare.
- Comunicați în mod eficient informațiile bazate pe date.
Citește mai mult...
Intermediate Gemini AI for Public Sector Professionals
16 oreThis instructor-led, live training in Moldova (online or onsite) is aimed at intermediate-level public sector professionals who wish to use Gemini to generate high-quality content, assist with research, and improve productivity through more advanced AI interactions.
By the end of this training, participants will be able to:
- Craft more effective and tailored prompts for specific use cases.
- Generate original and creative content using Gemini.
- Summarize and compare complex information with precision.
- Use Gemini for brainstorming, planning, and organizing ideas efficiently.
Citește mai mult...
Introduction to Claude AI: Conversational AI and Business Applications
14 oreAceastă instruire live, condusă de un instructor în Moldova (online sau la fața locului) se adresează profesioniștilor din domeniul afacerilor de nivel începător, echipelor de asistență pentru clienți și pasionaților de tehnologie care doresc să înțeleagă elementele de bază ale Claude AI și să le valorifice pentru aplicații de afaceri.
Până la sfârșitul acestui curs, participanții vor fi capabili să:
- Să înțeleagă capacitățile și cazurile de utilizare ale Claude AI.
- Să configureze și să interacționeze eficient cu Claude AI.
- Să automatizeze fluxurile de lucru de afaceri cu ajutorul inteligenței artificiale conversaționale.
- Să îmbunătățească implicarea și asistența clienților utilizând soluții bazate pe AI.
Citește mai mult...
LangChain: Building AI-Powered Applications
14 oreAcest curs de instruire live, condus de un instructor în Moldova (online sau la fața locului) se adresează dezvoltatorilor de nivel mediu și inginerilor de software care doresc să construiască aplicații bazate pe inteligență artificială folosind cadrul LangChain.
La finalul acestui curs de formare, participanții vor fi capabili să:
- Să înțeleagă elementele de bază ale LangChain și ale componentelor sale.
- Să integreze LangChain cu modele lingvistice mari (LLM) precum GPT-4.
- Să construiască aplicații modulare de inteligență artificială folosind LangChain.
- Să rezolve problemele comune în aplicațiile LangChain.
Citește mai mult...
Getting Started with Ollama: Running Local AI Models
7 oreAceastă instruire live, cu instructor în Moldova (online sau la fața locului) se adresează profesioniștilor de nivel începător care doresc să instaleze, să configureze și să utilizeze Ollama pentru a rula modele AI pe mașinile lor locale.
Până la sfârșitul acestei formări, participanții vor fi capabili să:
- Să înțeleagă elementele de bază ale Ollama și capacitățile sale.
- Să configureze Ollama pentru a rula modele AI locale.
- Să implementeze și să interacționeze cu LLM-uri utilizând Ollama.
- Să optimizeze performanța și utilizarea resurselor pentru sarcinile de lucru AI.
- Explorarea cazurilor de utilizare pentru implementarea AI locală în diverse industrii.
Citește mai mult...
