0Pricing
AI Agents with LangChain & Autonomous Workflows · Урок

Использование токенов и контроль расходов

Измеряйте в реальном времени, сколько токенов используют ваши агенты и во сколько это обходится, устанавливайте бюджеты и находите дорогие этапы, чтобы оптимизировать расходы в рабочей среде.

«Использование токенов и контроль расходов» — бесплатный урок AI Agents with LangChain & Autonomous Workflows на CoddyKit. Это урок 4 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения AI Agents with LangChain & Autonomous Workflows, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс AI Agents with LangChain & Autonomous Workflows содержит 4 уроков всего.

Части этого урока еще не переведены и отображаются на английском.

Why Track Tokens and Cost

Agents that loop, retry, or use long context can quietly become expensive. Without visibility you only discover the bill at month end.

Token and cost monitoring turns spend into a metric you can watch, alert on, and optimize.

Prompt vs Completion Tokens

Every call splits into:

  • Prompt tokens: everything you send in (system prompt, context, history)
  • Completion tokens: what the model generates

They are usually priced differently, so track them separately.

The Callback Approach

LangChain exposes usage via callbacks. get_openai_callback aggregates tokens and cost for everything inside its context block.

from langchain_community.callbacks import get_openai_callback

with get_openai_callback() as cb:
    result = agent.invoke({'input': 'Summarize the report'})
    print(cb.total_tokens, cb.total_cost)

Reading the Breakdown

The callback object also exposes the split, which is what you log per request.

print('prompt:', cb.prompt_tokens)
print('completion:', cb.completion_tokens)
print('cost USD:', cb.total_cost)

Usage Inside Responses

Many chat models also attach a usage_metadata field to the response, useful when you call the model directly without a callback.

resp = llm.invoke('Hello there')
print(resp.usage_metadata)

Estimating Before You Send

To stay under a budget, estimate tokens before calling the model using a tokenizer like tiktoken. This catches oversized prompts early.

import tiktoken
enc = tiktoken.encoding_for_model('gpt-4o-mini')
n = len(enc.encode(prompt_text))
print('approx tokens:', n)

Setting Budgets

Define a per-request and per-user token budget. If an estimate exceeds it, trim context, lower k in retrieval, or reject the request before paying for it.

MAX_TOKENS = 6000
if n > MAX_TOKENS:
    raise ValueError('Request exceeds token budget')

Per-Step Attribution

Agents make many sub-calls: tool selection, tool output processing, final answer. Wrapping each step's callback shows which step dominates cost, so you optimize the right one.

Logging to a Dashboard

Emit tokens and cost as structured logs or metrics (e.g. to Prometheus or LangSmith). Tag them with user, model, and route so you can slice spend.

log.info('llm_usage', extra={
    'tokens': cb.total_tokens,
    'cost': cb.total_cost,
    'route': 'support_agent'
})

Common Savings

Once you can see spend, the biggest wins are usually:

  • Smaller models for simple steps
  • Caching repeated calls
  • Trimming history and retrieved context
  • Stopping runaway agent loops with iteration limits

Alerting on Anomalies

Set alerts for sudden cost spikes — often a sign of a prompt-injection loop or a misbehaving tool. Catching it in minutes beats finding it on the invoice.

Quick Check

Test your cost monitoring knowledge.

Recap

You learned to observe agent spend:

  • Split prompt vs completion tokens
  • Use get_openai_callback and usage_metadata
  • Estimate with tiktoken and enforce budgets
  • Attribute cost per agent step
  • Log to dashboards and alert on spikes

Visibility into cost is the foundation for optimizing production agents.

Часто задаваемые вопросы

Урок «Использование токенов и контроль расходов» бесплатный?

Да — полный текст урока «Использование токенов и контроль расходов» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс AI Agents with LangChain & Autonomous Workflows, подпишись на CoddyKit PRO. Курс AI Agents with LangChain & Autonomous Workflows содержит 4 уроков всего.

Чему я научусь в уроке «Использование токенов и контроль расходов»?

Измеряйте в реальном времени, сколько токенов используют ваши агенты и во сколько это обходится, устанавливайте бюджеты и находите дорогие этапы, чтобы оптимизировать расходы в рабочей среде. Ты практикуешь AI Agents with LangChain & Autonomous Workflows с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.

Нужен ли мне опыт, чтобы начать AI Agents with LangChain & Autonomous Workflows?

Предыдущий опыт не требуется. AI Agents with LangChain & Autonomous Workflows на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 4 из 4.

Сколько времени занимает урок «Использование токенов и контроль расходов»?

Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.

Можно ли писать и запускать код в этом уроке AI Agents with LangChain & Autonomous Workflows?

Да. Каждый урок AI Agents with LangChain & Autonomous Workflows включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.

Все уроки этого курса

  1. LangSmith для трассировки и мониторинга
  2. Отладка процессов рассуждения агентов
  3. Оценка производительности агентов
  4. Использование токенов и контроль расходов
← Назад к AI Agents with LangChain & Autonomous Workflows