Обработка ошибок и безопасное выполнение инструментов
Повышайте устойчивость и безопасность инструментов агентов: корректно обрабатывайте сбои, проверяйте входные данные и ограничивайте действия, разрешённые инструментам при автономном выполнении.
«Обработка ошибок и безопасное выполнение инструментов» — бесплатный урок AI Agents with LangChain & Autonomous Workflows на CoddyKit. Это урок 4 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения AI Agents with LangChain & Autonomous Workflows, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс AI Agents with LangChain & Autonomous Workflows содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
Tools Will Fail
Agents call external tools: APIs, databases, shells. These time out, return errors, or behave unexpectedly. An agent that crashes on the first failure is useless in production.
This lesson covers making tool execution safe and resilient.
Returning Errors as Observations
Instead of throwing, a tool should return the error as a message the agent can read. This lets the agent reason about the failure and try another approach.
def search(q):
try:
return api.search(q)
except Exception as e:
return 'ERROR: search failed: ' + str(e)Validating Tool Inputs
LLMs sometimes pass nonsense arguments. Validate inputs before acting, so a malformed query never reaches a real system.
def get_user(user_id):
if not str(user_id).isdigit():
return 'ERROR: user_id must be numeric'
return db.fetch(user_id)Timeouts and Retries
Wrap slow tools with a timeout and retry transient failures a bounded number of times. Without limits, an agent can hang or loop forever.
for attempt in range(3):
try:
return call(timeout=5)
except Timeout:
continue
return 'ERROR: timed out after 3 attempts'The Danger of Powerful Tools
A tool that runs shell commands or executes SQL can do real damage if the agent is tricked or confused. Power must be paired with constraints.
Least Privilege
Give each tool only the access it needs. A read tool should not be able to write. A query tool should use a read-only database role.
# read-only DB connection for the query tool
conn = connect(user='reader', readonly=True)Allowlists over Blocklists
Trying to block every dangerous action is a losing game. Instead, permit only an explicit set of safe operations and reject everything else by default.
ALLOWED = {'read_file', 'list_dir', 'search'}
if action not in ALLOWED:
return 'ERROR: action not permitted'Human-in-the-Loop Approval
For high-impact actions like sending money or deleting data, pause and require human confirmation before executing. The agent proposes; a person approves.
if action.is_destructive:
return await request_human_approval(action)Preventing Infinite Loops
Agents can get stuck retrying the same failing tool. Cap the number of steps and detect repeated identical actions, stopping with a clear message instead of burning tokens forever.
agent = initialize_agent(tools, llm, max_iterations=8)Logging for Auditing
Record every tool call with its inputs, outputs, and outcome. This audit trail is essential for debugging agent behavior and for catching unsafe actions after the fact.
A Safe Tool Workflow
Putting it together:
- Return errors as observations, not crashes
- Validate inputs and bound timeouts/retries
- Apply least privilege and allowlists
- Require approval for destructive actions
- Cap iterations and log every call
Quick Check
Test your understanding of safe tool execution.
Recap
You learned to make agent tools resilient and safe.
- Surface errors as observations the agent can handle
- Validate inputs and bound timeouts, retries, and iterations
- Apply least privilege and allowlists
- Require approval for destructive actions and log everything
Часто задаваемые вопросы
Урок «Обработка ошибок и безопасное выполнение инструментов» бесплатный?
Да — полный текст урока «Обработка ошибок и безопасное выполнение инструментов» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс AI Agents with LangChain & Autonomous Workflows, подпишись на CoddyKit PRO. Курс AI Agents with LangChain & Autonomous Workflows содержит 4 уроков всего.
Чему я научусь в уроке «Обработка ошибок и безопасное выполнение инструментов»?
Повышайте устойчивость и безопасность инструментов агентов: корректно обрабатывайте сбои, проверяйте входные данные и ограничивайте действия, разрешённые инструментам при автономном выполнении. Ты практикуешь AI Agents with LangChain & Autonomous Workflows с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать AI Agents with LangChain & Autonomous Workflows?
Предыдущий опыт не требуется. AI Agents with LangChain & Autonomous Workflows на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 4 из 4.
Сколько времени занимает урок «Обработка ошибок и безопасное выполнение инструментов»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке AI Agents with LangChain & Autonomous Workflows?
Да. Каждый урок AI Agents with LangChain & Autonomous Workflows включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Определение и использование инструментов
- Типы агентов и принятие решений
- Использование готовых наборов инструментов
- Обработка ошибок и безопасное выполнение инструментов