0Pricing
AI Agents · 강의

RAG가 해결하는 문제(지식 기준일, 환각)

RAG는 질의 시점에 관련 컨텍스트를 검색하므로 LLM이 사실을 지어내는 대신 실제 출처를 인용할 수 있습니다.

RAG가 해결하는 문제(지식 기준일, 환각)은(는) CoddyKit의 무료 AI Agents 강의입니다. 이것은 4개 중 1번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 AI Agents 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. AI Agents 강의에는 총 4개의 강의가 포함되어 있습니다.

일반 LLM의 두 가지 문제

아무리 뛰어난 LLM이라도 구조적으로 두 가지 문제가 있습니다:

  1. 지식 기준일 — 학습 데이터에 포함된 내용만 알고 있습니다. GPT-4에 어제 발생한 사건을 물어보면 전혀 알지 못합니다.
  2. 환각 — 모델이 모르는 내용을 자신 있게 지어냅니다.

RAG란 무엇인가

Retrieval-Augmented Generation(RAG)은 다음을 의미합니다:

  1. 지식 베이스에서 관련 청크를 검색합니다
  2. 해당 청크를 프롬프트에 넣습니다
  3. LLM에 ONLY 해당 청크를 사용해 답변하도록 요청합니다

모델은 고정된 가중치에만 의존하는 대신 외부 지식을 읽는 "독자"가 됩니다.

구체적인 예

사용자: "개봉한 전자제품의 반품 정책은 무엇인가요?"

  1. 회사 KB에서 "전자제품 반품 정책"을 검색하여 도움말 문서에서 3개의 단락을 가져옵니다
  2. 프롬프트를 작성합니다: "아래 맥락을 사용하여 다음 질문에 답하세요: ..."
  3. 모델이 출처를 인용한 충실한 답변을 생성합니다

RAG가 파인튜닝보다 나은 이유

사실 지식에서는 다음과 같은 이유로 RAG가 파인튜닝보다 낫습니다:

  • 재학습 없이 KB를 업데이트할 수 있습니다
  • 사용자별 / 테넌트별 데이터를 간단히 분리할 수 있습니다
  • 인용이 가능합니다(답변을 생성한 WHICH 청크인지 알 수 있습니다)
  • 유지 관리 비용이 더 저렴합니다

RAG가 환각을 줄이는 이유

모델이 제공된 맥락만을 바탕으로 답변하도록 지시하고 맥락에 진실이 담겨 있다면, 기억에 의존할 때보다 모델이 올바르게 답변할 가능성이 훨씬 높습니다.

완벽하지는 않습니다. 모델이 여전히 가끔 내용을 지어내지만 환각을 크게 줄일 수 있습니다.

세 단계

모든 RAG 시스템에는 다음 세 단계가 있습니다:

  1. 수집(오프라인) — 문서를 청크로 나누고 임베딩한 다음 저장합니다
  2. 검색(온라인) — 질의를 임베딩하고 상위 K개 청크를 찾습니다
  3. 생성(온라인) — LLM이 검색된 청크를 사용해 답변을 생성합니다

단순한 RAG와 고급 RAG

단순한 RAG(5줄짜리 프로토타입):

  • 고정 크기 청킹
  • 단일 벡터 검색
  • 상위 K개를 프롬프트에 넣기

고급 RAG에는 재순위화, 질의 재작성, HyDE, 다중 벡터, 평가가 추가됩니다. 각각 품질을 높이지만 복잡성도 증가시킵니다.

RAG가 도움이 되는 경우

  • 회사 지식 베이스 / 문서
  • 제품 설명서를 기반으로 하는 고객 지원
  • 드물지만 사실에 기반한 질의응답
  • 사용자 데이터를 활용하는 개인 비서

RAG가 방해가 되는 경우

  • 간단한 잡담(사실이 필요하지 않음)
  • 사실이 아닌 추론이 필요한 작업
  • 어차피 전체 말뭉치를 맥락에 넣을 수 있을 만큼 규모가 작은 경우

프롬프트 템플릿

일반적인 RAG 프롬프트는 다음과 같습니다:

prompt = f'''
Answer the user\'s question using ONLY the context below.
If the answer is not in the context, say 'I do not know'.

Context:
{retrieved_chunks}

Question:
{user_question}

Answer:
'''

인용

출처 식별자와 함께 청크 형식을 지정하고 모델에 출처를 인용하도록 요청합니다:

context = '\n'.join(
    f'[doc {i+1}] {chunk.text}'
    for i, chunk in enumerate(chunks)
)
# Then ask: 'Cite the relevant [doc N] for each claim.'

RAG의 목표

RAG가 주로 해결하는 문제는 무엇인가요?

요약

RAG는 LLM을 오픈북 시험 응시자처럼 동작하게 합니다. 다음으로는 검색을 위해 실제로 문서를 청크로 나누는 방법을 살펴봅니다.

자주 묻는 질문

“RAG가 해결하는 문제(지식 기준일, 환각)” 강의는 무료인가요?

네 — “RAG가 해결하는 문제(지식 기준일, 환각)” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 AI Agents 강의 전체를 잠금 해제할 수 있습니다. AI Agents 강의에는 총 4개의 강의가 포함되어 있습니다.

“RAG가 해결하는 문제(지식 기준일, 환각)”에서 뭘 배우나요?

RAG는 질의 시점에 관련 컨텍스트를 검색하므로 LLM이 사실을 지어내는 대신 실제 출처를 인용할 수 있습니다. 브라우저에서 직접 실행하는 실습 코드로 AI Agents을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

AI Agents을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 AI Agents은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 1번째 강의입니다.

“RAG가 해결하는 문제(지식 기준일, 환각)” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 AI Agents 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 AI Agents 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

  1. RAG가 해결하는 문제(지식 기준일, 환각)
  2. 청크 분할 전략(고정, 문장, 의미)
  3. 문서 집합 인덱싱
  4. FAISS 또는 Chroma로 단순한 RAG 구축
← AI Agents(으)로 돌아가기