Guardraile i bezpieczne zachowanie agentów
Wdrażaj praktyczne mechanizmy bezpieczeństwa dla agentów AI — walidację danych wejściowych i wyjściowych, filtrowanie treści oraz ograniczony dostęp do narzędzi — aby zapobiegać szkodliwym lub niezamierzonym działaniom.
Guardraile i bezpieczne zachowanie agentów to bezpłatna lekcja AI Agents with LangChain & Autonomous Workflows na CoddyKit. To lekcja 4 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej AI Agents with LangChain & Autonomous Workflows, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs AI Agents with LangChain & Autonomous Workflows zawiera 4 lekcji w sumie.
Części tej lekcji nie zostały jeszcze przetłumaczone i są wyświetlane po angielsku.
From Ethics to Engineering
Ethical principles need enforcement in code. Guardrails are the concrete controls that keep an agent within safe, intended boundaries at runtime.
They act on three points: the input, the model's reasoning, and the output or actions.
Input Guardrails
Check user input before it reaches the agent. Catch:
- Prompt-injection attempts
- Requests for disallowed topics
- Personal data that should be redacted
Detecting Prompt Injection
Prompt injection tries to override your instructions (e.g. ignore previous rules). A simple guard flags suspicious phrases before processing.
BAD = ['ignore previous', 'disregard instructions']
if any(p in user_input.lower() for p in BAD):
raise ValueError('Possible prompt injection')Output Guardrails
Validate what the agent produces before showing it. Block unsafe content, leaked secrets, or off-policy answers, replacing them with a safe fallback message.
if contains_sensitive(answer):
answer = 'I cannot share that information.'Structured Output Validation
When an agent must return JSON, validate it against a schema. Reject or repair malformed output so downstream systems never receive bad data.
from pydantic import BaseModel
class Ticket(BaseModel):
priority: str
summary: str
Ticket.model_validate_json(agent_output)Constraining Tool Access
The most dangerous actions come from tools. Give an agent only the tools it needs, and scope each one — read-only where possible, with limits on what it can affect.
Allowlists Over Blocklists
Define what is permitted rather than chasing every bad case. An allowlist of approved domains, tables, or operations is far safer than trying to enumerate everything to forbid.
ALLOWED_DOMAINS = {'docs.company.com'}
if domain not in ALLOWED_DOMAINS:
raise PermissionError('Domain not allowed')Moderation Models
Provider moderation endpoints classify text for harmful categories. Run inputs and outputs through them as an extra safety layer.
result = client.moderations.create(input=text)
if result.results[0].flagged:
block()Limiting Autonomy
Cap how much an agent can do unattended: max iterations, max tool calls, spending limits, and human approval for high-impact actions. Bounded autonomy prevents runaway behavior.
agent = create_agent(llm, tools, max_iterations=8)Fail Safe, Not Open
When a guardrail is uncertain or a check errors, default to the safe choice — refuse or escalate — rather than letting the action through. A blocked safe request is better than an executed harmful one.
Logging and Review
Log every guardrail trigger. Reviewing these reveals attack patterns and false positives, letting you tune rules over time without weakening safety.
Quick Check
Test your guardrails knowledge.
Recap
You learned to engineer safe agent behavior:
- Add input and output guardrails
- Detect prompt injection and validate structured output
- Constrain tool access with allowlists and scoping
- Use moderation, limit autonomy, and fail safe
- Log and review every trigger
Guardrails turn ethical intent into enforced, trustworthy agents.
Ucz się AI Agents with LangChain & Autonomous Workflows dzięki korepetycjom AI — za darmo
Pisz i uruchamiaj kod w przeglądarce, otrzymuj natychmiastową pomoc od korepetytora AI dostępnego 24/7 i kontynuuj naukę w sieci lub w aplikacji.
- Kursy
- 12
- Lekcje
- 50
Często zadawane pytania
Czy lekcja „Guardraile i bezpieczne zachowanie agentów” jest bezpłatna?
Tak — pełny tekst „Guardraile i bezpieczne zachowanie agentów” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu AI Agents with LangChain & Autonomous Workflows, przejdź na CoddyKit PRO. Kurs AI Agents with LangChain & Autonomous Workflows zawiera 4 lekcji w sumie.
Co nauczysz się w „Guardraile i bezpieczne zachowanie agentów”?
Wdrażaj praktyczne mechanizmy bezpieczeństwa dla agentów AI — walidację danych wejściowych i wyjściowych, filtrowanie treści oraz ograniczony dostęp do narzędzi — aby zapobiegać szkodliwym lub niezam… Ćwiczysz AI Agents with LangChain & Autonomous Workflows z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć AI Agents with LangChain & Autonomous Workflows?
Nie wymagamy żadnego doświadczenia. AI Agents with LangChain & Autonomous Workflows w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 4 z 4.
Ile czasu zajmuje lekcja „Guardraile i bezpieczne zachowanie agentów”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji AI Agents with LangChain & Autonomous Workflows?
Tak. Każda lekcja AI Agents with LangChain & Autonomous Workflows zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Kwestie etyczne w agentach AI
- Stronniczość, sprawiedliwość i przejrzystość
- Nowe trendy i badania
- Guardraile i bezpieczne zachowanie agentów