AI Agents · 강의

에이전트에 추적이 필요한 이유

에이전트는 요청 하나마다 여러 LLM 호출과 도구 호출을 수행합니다. 추적 없이는 상황을 파악할 수 없습니다.

에이전트에 추적이 필요한 이유은(는) CoddyKit의 무료 AI Agents 강의입니다. 이것은 4개 중 1번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 AI Agents 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. AI Agents 강의에는 총 4개의 강의가 포함되어 있습니다.

이 강의의 일부는 아직 번역되지 않았으며 영어로 표시됩니다.

에이전트는 디버깅하기 어렵습니다

단 한 번의 사용자 메시지가 LLM 호출 10회, 도구 호출 5회, 30초의 지연 시간을 유발할 수 있습니다. 문제가 발생했을 때 "에이전트가 이상한 답변을 했다"는 말만으로는 아무것도 알 수 없습니다.

추적을 사용하면 실제로 무슨 일이 일어났는지 확인할 수 있습니다.

추적에 기록되는 내용

하나의 사용자 요청에 대해 다음을 기록합니다:

모든 LLM 호출: 모델, 입력 메시지, 출력 응답, 토큰, 지연 시간
모든 도구 호출: 이름, 인수, 결과, 오류
모든 단계의 순서와 시점
사용자에게 최종적으로 표시되는 답변

로그만으로는 부족합니다

일반 로그(출력문)는 추적의 구조를 잃어버립니다. 어느 LLM 호출이 어느 사용자 요청에 속하는지, 또는 단계들이 트리에서 어떻게 연결되는지 알 수 없습니다.

구조화된 추적 도구가 이 문제를 해결합니다.

스팬과 추적

OpenTelemetry에서 가져온 개념입니다:

추적 — 전체 에이전트 실행 과정(하나의 사용자 요청)
스팬 — 추적 내부의 한 단계(LLM 호출, 도구 호출, 검색)
스팬에는 부모가 있어 트리를 형성합니다

A Concrete Trace Tree

Trace: user asks 'What is our return policy?'
|-- Span: retrieve_docs (12 ms)
|-- Span: llm_call_planner (820 ms)
|   |-- tool_call: search_kb
|-- Span: tool_call: search_kb (340 ms)
|-- Span: llm_call_synthesise (1100 ms)
Total: 2.3 s, 8400 tokens, $0.012

추적이 로그보다 나은 이유

트리 구조로 부모와 자식의 관계를 확인할 수 있음
시간 흐름을 통해 느린 단계를 파악할 수 있음
추적별로 토큰과 비용을 합산할 수 있음
재실행: 새 프롬프트로 추적을 다시 실행해 변경 사항을 검증할 수 있음

추적을 추가할 시점

첫날부터 추가하십시오. 개발 중에 추적하면 채팅만으로 디버깅할 때는 알아차리지 못할 버그가 드러납니다. 운영 장애가 발생한 뒤 추가하는 것은 너무 늦습니다.

개인정보 보호와 추적

추적에는 사용자 데이터가 포함됩니다. 로그와 동일하게 취급하십시오:

내보내기 전에 PII를 마스킹
저장 시 암호화
보존 정책 준수

추적과 평가

추적은 "이번 한 번의 실행에서 무슨 일이 일어났는가"를 보여 줍니다. 평가는 "검증 데이터 세트에서 에이전트가 얼마나 잘 작동하는가"를 보여 줍니다. 둘 다 필요하지만 추적이 먼저입니다. 확인할 수 없는 것은 평가할 수 없기 때문입니다.

추적 비용

추적은 지연 시간을 1~2% 늘리고 저장 공간도 더 사용합니다. 대화가 많은 에이전트라면 모든 내용을 기록하는 대신 표본을 추출하십시오(예: 추적의 10%는 전체 기록하고, 실패한 추적은 100% 기록).

수동 계측과 자동 계측

일부 프레임워크(LangChain, LlamaIndex)는 자동으로 계측하므로 추적을 무료로 얻을 수 있습니다. 직접 작성한 코드에서는 LLM 호출과 도구 호출을 스팬 도우미로 감싸십시오.

사용자에게 표시하는 오류의 추적 ID

에이전트가 실패하면 사용자에게 추적 ID를 반환하십시오:

"문제가 발생했습니다. 참조 ID: trace-9c4a... 이 ID를 지원팀에 보여 주십시오."

지원팀은 추적을 열어 정확히 무슨 일이 일어났는지 확인할 수 있습니다.

추적이 필요한 이유

에이전트에서 구조화된 추적이 일반적인 출력 로그 기록보다 나은 이유는 무엇입니까?

복습

추적은 선택 사항이 아닙니다. 첫날부터 구축하십시오. 다음 수업에서는 무엇을 기록하고 어떤 도구를 사용할지 다룹니다.

자주 묻는 질문

“에이전트에 추적이 필요한 이유” 강의는 무료인가요?

네 — “에이전트에 추적이 필요한 이유” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 AI Agents 강의 전체를 잠금 해제할 수 있습니다. AI Agents 강의에는 총 4개의 강의가 포함되어 있습니다.

“에이전트에 추적이 필요한 이유”에서 뭘 배우나요?

에이전트는 요청 하나마다 여러 LLM 호출과 도구 호출을 수행합니다. 추적 없이는 상황을 파악할 수 없습니다. 브라우저에서 직접 실행하는 실습 코드로 AI Agents을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

AI Agents을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 AI Agents은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 1번째 강의입니다.

“에이전트에 추적이 필요한 이유” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 AI Agents 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 AI Agents 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← AI Agents(으)로 돌아가기