AI Agents with LangChain & Autonomous Workflows · レッスン

エラー処理と安全なツール実行

失敗を適切に処理し、入力を検証し、自律実行中にツールが実行できる操作を制限することで、エージェントのツールを堅牢かつ安全にします。

レッスン 4/413 ステップ

「エラー処理と安全なツール実行」はCoddyKit上の無料AI Agents with LangChain & Autonomous Workflowsレッスンです。これはレッスン4/4です。下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。これはAI Agents with LangChain & Autonomous Workflows学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 AI Agents with LangChain & Autonomous Workflowsコースには全4レッスンが含まれています。

このレッスンの一部はまだ翻訳されておらず、英語で表示されています。

Tools Will Fail

Agents call external tools: APIs, databases, shells. These time out, return errors, or behave unexpectedly. An agent that crashes on the first failure is useless in production.

This lesson covers making tool execution safe and resilient.

Returning Errors as Observations

Instead of throwing, a tool should return the error as a message the agent can read. This lets the agent reason about the failure and try another approach.

def search(q):
    try:
        return api.search(q)
    except Exception as e:
        return 'ERROR: search failed: ' + str(e)

Validating Tool Inputs

LLMs sometimes pass nonsense arguments. Validate inputs before acting, so a malformed query never reaches a real system.

def get_user(user_id):
    if not str(user_id).isdigit():
        return 'ERROR: user_id must be numeric'
    return db.fetch(user_id)

Timeouts and Retries

Wrap slow tools with a timeout and retry transient failures a bounded number of times. Without limits, an agent can hang or loop forever.

for attempt in range(3):
    try:
        return call(timeout=5)
    except Timeout:
        continue
return 'ERROR: timed out after 3 attempts'

The Danger of Powerful Tools

A tool that runs shell commands or executes SQL can do real damage if the agent is tricked or confused. Power must be paired with constraints.

Least Privilege

Give each tool only the access it needs. A read tool should not be able to write. A query tool should use a read-only database role.

# read-only DB connection for the query tool
conn = connect(user='reader', readonly=True)

Allowlists over Blocklists

Trying to block every dangerous action is a losing game. Instead, permit only an explicit set of safe operations and reject everything else by default.

ALLOWED = {'read_file', 'list_dir', 'search'}
if action not in ALLOWED:
    return 'ERROR: action not permitted'

Human-in-the-Loop Approval

For high-impact actions like sending money or deleting data, pause and require human confirmation before executing. The agent proposes; a person approves.

if action.is_destructive:
    return await request_human_approval(action)

Preventing Infinite Loops

Agents can get stuck retrying the same failing tool. Cap the number of steps and detect repeated identical actions, stopping with a clear message instead of burning tokens forever.

agent = initialize_agent(tools, llm, max_iterations=8)

Logging for Auditing

Record every tool call with its inputs, outputs, and outcome. This audit trail is essential for debugging agent behavior and for catching unsafe actions after the fact.

A Safe Tool Workflow

Putting it together:

Return errors as observations, not crashes
Validate inputs and bound timeouts/retries
Apply least privilege and allowlists
Require approval for destructive actions
Cap iterations and log every call

Quick Check

Test your understanding of safe tool execution.

対話的なレッスンで答える

Recap

You learned to make agent tools resilient and safe.

Surface errors as observations the agent can handle
Validate inputs and bound timeouts, retries, and iterations
Apply least privilege and allowlists
Require approval for destructive actions and log everything

無料で開始

AI チューターと学ぶ AI Agents with LangChain & Autonomous Workflows — 無料

ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。

コース: 12
レッスン: 50

無料で学習を始めるコース全体を表示

よくある質問

「エラー処理と安全なツール実行」レッスンは無料ですか？

はい。「エラー処理と安全なツール実行」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し（組み込みコードエディタと24時間対応のAIチューター）、AI Agents with LangChain & Autonomous Workflowsコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 AI Agents with LangChain & Autonomous Workflowsコースには全4レッスンが含まれています。

「エラー処理と安全なツール実行」で何を学びますか？

失敗を適切に処理し、入力を検証し、自律実行中にツールが実行できる操作を制限することで、エージェントのツールを堅牢かつ安全にします。ブラウザで直接実行するハンズオンコードでAI Agents with LangChain & Autonomous Workflowsを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。

AI Agents with LangChain & Autonomous Workflowsを始めるのに経験は必要ですか？

事前経験は必要ありません。CoddyKitのAI Agents with LangChain & Autonomous Workflowsは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。これはレッスン4/4です。

「エラー処理と安全なツール実行」レッスンにはどのくらい時間がかかりますか？

ほとんどのCoddyKitレッスンは約5～10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。

このAI Agents with LangChain & Autonomous Workflowsレッスンでコードを書いて実行できますか？

はい。すべてのAI Agents with LangChain & Autonomous Workflowsレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。

このコースのすべてのレッスン

← AI Agents with LangChain & Autonomous Workflowsに戻る