사고 연쇄 프롬프트
단계별 추론 유도
사고 연쇄 프롬프트은(는) CoddyKit의 무료 AI Prompt Engineering 강의입니다. 이것은 4개 중 1번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 AI Prompt Engineering 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. AI Prompt Engineering 강의에는 총 4개의 강의가 포함되어 있습니다.
토큰 예산으로서의 추론
사고 연쇄(CoT) 프롬프팅은 최종 답변 전에 중간 추론 단계를 이끌어 냅니다. 핵심 통찰은 트랜스포머가 토큰마다 고정된 양의 계산을 수행한다는 점입니다. 따라서 모델이 추론 토큰을 생성하도록 허용하면 답에 도달하는 데 필요한 순차 계산량을 사실상 늘릴 수 있습니다.
즉시 답변하도록 강제하면 어려운 문제에 사용할 수 있는 계산량이 제한됩니다. CoT는 생성되는 여러 토큰에 계산을 분산하여 이 제한을 없앱니다.
# Direct: model must compute everything before the first token
DIRECT = 'Q: ' + q + '\nA:'
# CoT: model can use tokens as scratch space
COT = 'Q: ' + q + '\nA: Let us reason step by step.'제로샷 CoT
유명한 촉발 문구인 ‘단계별로 생각해 봅시다’(Kojima et al., 2022)는 예시 없이도 추론을 이끌어 냅니다. 지침 조정 모델이 이러한 문구 뒤에 풀이가 이어지는 패턴을 내재화했기 때문에 작동합니다.
제로샷 CoT는 비용이 적고 놀라울 만큼 효과적이지만, 선별된 예시를 사용하는 퓨샷 CoT보다 추론 품질을 제어하기 어렵습니다.
def zero_shot_cot(question):
stage1 = llm('Q: ' + question + '\nA: Let us think step by step.')
# Extract the final answer in a second, constrained call
stage2 = llm(stage1 + '\nTherefore, the final answer is:')
return parse_answer(stage2)퓨샷 CoT
퓨샷 CoT(Wei et al., 2022)는 답변만이 아니라 추론 과정까지 포함한 예시를 제공합니다. 이를 통해 추론하는 방법과 원하는 형식을 모두 학습시킬 수 있으므로 제로샷보다 더 안정적이고 일관된 추론 연쇄를 얻을 수 있습니다.
따라 하기를 원하는 추론 방식, 세부 수준, 길이에 맞는 예시를 선별하십시오. 예시의 추론이 일관되지 않으면 결과 추론 연쇄도 일관되지 않습니다.
FS_COT = (
'Q: Roger has 5 balls, buys 2 cans of 3. How many balls?\n'
'A: 5 + 2*3 = 5 + 6 = 11. The answer is 11.\n\n'
'Q: ' + question + '\nA:'
)추론과 답변 분리
항상 최종 답변을 기계가 추출할 수 있게 하십시오. 연쇄를 고정된 표식(예를 들어 ‘정답은 X입니다’ 또는 JSON 필드)으로 끝내야 합니다. 자유 형식의 연쇄를 구문 분석하는 방식은 취약합니다.
사용자에게 제공하는 제품에서는 연쇄를 숨기고 구문 분석된 답변만 표시할 수 있으며, 추론은 내부 작업 메모로 유지할 수 있습니다.
import re
def extract(chain):
m = re.search(r'[Tt]he answer is\s*(.+?)[.\n]', chain)
if not m:
raise ValueError('no answer marker found')
return m.group(1).strip()충실성은 보장되지 않음
중요한 주의 사항은 언어화된 연쇄가 모델의 실제 계산을 반영하지 않을 수 있다는 점입니다. 연구에 따르면 모델은 숨은 편향(예를 들어 선택지의 위치)에 의해 결정된 답변을 사후적으로 합리화하는, 그럴듯하게 들리는 추론을 생성할 수 있습니다.
CoT를 충실한 설명이나 감사 추적 기록으로 간주하지 마십시오. CoT는 많은 과제에서 정확도를 높이지만 모델의 실제 작동 원리를 들여다보는 창은 아닙니다.
# Faithfulness probe: perturb an irrelevant cue (e.g., always make
# option A correct in the few-shot). If the chain still 'justifies'
# choosing A, the stated reasoning is unfaithful to the real cause.CoT 디코딩 설정
결정론적인 단일 추론 연쇄를 원한다면 낮은 온도로 분산을 줄일 수 있습니다. 하지만 CoT는 sampling과도 매우 잘 결합됩니다. 중간 정도의 온도에서 서로 다른 여러 추론 연쇄를 생성하고 이를 집계할 수 있습니다(자기 일관성에서 다룹니다).
여러 경로를 표본 추출하려는 경우 탐욕적 디코딩을 피하십시오. 탐욕적 디코딩은 다양성을 없애 집계를 무력화합니다.
single = llm(COT, temperature=0.0) # one stable chain
paths = [llm(COT, temperature=0.7) for _ in range(10)] # diverse구조화된 표 형식 추론
복잡한 문제에서는 추론 과정에 구조를 부여하십시오. 번호가 매겨진 단계, 상태 표, 또는 계획 후 실행 분리를 사용할 수 있습니다. 구조를 적용하면 단계 누락이 줄고 중간 상태를 검증하기 쉬워집니다.
프로그램 보조 접근법은 추론 과정으로 실행 가능한 코드를 생성하고 산술 계산을 인터프리터에 맡겨 한 부류의 계산 오류 전체를 제거하는 방식으로 한 단계 더 나아갑니다.
PAL = (
'Solve by writing Python. Q: ' + q + '\n'
'A:\ndef solve():\n'
' # the model writes code here, then we exec() it\n'
)
# Offload arithmetic to a deterministic interpreter길이, 비용, 지연 시간
CoT는 출력 토큰 수를 늘려 비용과 지연 시간을 증가시킵니다. 쉬운 항목에서는 이러한 추가 비용이 아무런 이점도 주지 않지만, 어려운 항목에서는 필수적입니다. 실용적인 방식은 adaptive 추론입니다. 저렴한 난이도 추정이나 신뢰도가 낮은 직접 답변으로 판단했을 때만 CoT를 실행하십시오.
사고 기능이 내장된 추론 모델에서는 직접 연쇄를 프롬프트에 넣는 대신 추론 노력 예산을 조절합니다.
def adaptive(question):
direct = llm('Q: ' + question + '\nA (answer only):', temperature=0)
if confidence(direct) > 0.85:
return direct
return zero_shot_cot(question) # escalate to reasoning only if needed추론 특화 모델에서의 CoT
최신 추론 모델은 자동으로 확장된 내부 숙고를 수행합니다. 장황한 ‘단계별로 생각해 봅시다’ 지침을 입력하면 중복되거나 심지어 역효과가 날 수 있으며, 학습된 사고 과정을 방해할 수 있습니다.
이러한 모델에는 간결한 과제 설명과 명시적인 답변 형식 요구 사항을 사용하고, 직접 연쇄를 작성하는 대신 추론 노력 매개변수를 조정하십시오.
# Reasoning-native model: let it think, just constrain the output
resp = reasoning_model(
prompt=question,
reasoning_effort='medium',
output_format='Final answer on the last line as: ANSWER=<x>'
)CoT가 역효과를 내는 경우
CoT는 숙고가 올바른 직관을 덮어쓰는 작업, 간단한 패턴 일치 작업, 또는 말로 표현하는 과정에서 모델이 암묵적으로는 만들지 않았을 오류가 생기는 경우에 성능을 떨어뜨릴 수 있습니다. 또한 긴 연쇄 내부의 프롬프트 주입에 악용될 수 있는 공격 표면도 넓힙니다.
작업마다 CoT를 직접 답변 방식과 비교하여 벤치마크하고, 추론 프롬프트가 언제나 도움이 된다고 가정하지 마십시오.
def should_use_cot(task_acc_cot, task_acc_direct, cot_cost_mult):
gain = task_acc_cot - task_acc_direct
# Only adopt CoT if accuracy gain justifies the token multiplier
return gain > MIN_GAIN and gain / cot_cost_mult > MIN_EFFICIENCYCoT를 실제 서비스에 적용하기
실제 서비스에서 CoT를 사용하려면 일관된 예시를 엄선하거나 모델의 기본 추론에 의존하고, 구문 분석 가능한 답변 표식을 강제하며, 어려운 항목에는 여러 연쇄를 샘플링하고, 가능한 경우 코드 실행으로 산술을 검증하며, 비용을 제어할 수 있도록 난이도 추정에 따라 추론 사용 여부를 결정하십시오.
오프라인 분석을 위해 연쇄를 기록하되, 이를 정답 설명으로 노출하지는 마십시오.
def production_solve(q):
if easy(q):
return extract(llm(DIRECT_PROMPT.format(q=q), temperature=0))
chains = [llm(FS_COT.format(q=q), temperature=0.7) for _ in range(8)]
return majority_vote([extract(c) for c in chains])빠른 확인
CoT가 왜 도움이 되는지, 또 어떤 경우에는 도움이 되지 않는지 생각해 보십시오.
복습
핵심 요점:
- CoT는 추가 토큰을 사용해 추가적인 순차 계산을 수행합니다. 여러 단계가 필요한 작업에는 도움이 되지만 사소한 작업에는 그렇지 않습니다.
- 제로샷 CoT는 유발 문구를 사용하고, 퓨샷 CoT는 일관된 추론 예시를 제공합니다.
- 항상 기계가 추출할 수 있는 답변 표식으로 끝내십시오. 연쇄는 충실한 설명이 아닙니다.
- 어려운 항목에는 여러 연쇄를 샘플링하고, 산술은 코드로 처리하며, 난이도에 따라 CoT 사용 여부를 결정하십시오.
- 추론에 특화된 모델에서는 장황한 연쇄 지침보다 간결한 프롬프트와 추론 노력 예산을 우선하십시오.
자주 묻는 질문
“사고 연쇄 프롬프트” 강의는 무료인가요?
네 — “사고 연쇄 프롬프트” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 AI Prompt Engineering 강의 전체를 잠금 해제할 수 있습니다. AI Prompt Engineering 강의에는 총 4개의 강의가 포함되어 있습니다.
“사고 연쇄 프롬프트”에서 뭘 배우나요?
단계별 추론 유도 브라우저에서 직접 실행하는 실습 코드로 AI Prompt Engineering을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
AI Prompt Engineering을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 AI Prompt Engineering은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 1번째 강의입니다.
“사고 연쇄 프롬프트” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 AI Prompt Engineering 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 AI Prompt Engineering 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- 사고 연쇄 프롬프트
- 자기 일관성 샘플링
- 사고 트리 탐색
- 추론 프롬프트가 도움이 되는 경우