AI Prompt Engineering · 강의

환각 감소 전략

LLM이 생성하는 사실 오류와 조작된 정보를 최소화하는 방법을 구현합니다.

환각 감소 전략은(는) CoddyKit의 무료 AI Prompt Engineering 강의입니다. 이것은 3개 중 2번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 AI Prompt Engineering 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. AI Prompt Engineering 강의에는 총 3개의 강의가 포함되어 있습니다.

LLM 환각이란 무엇인가요

환영합니다! 이번 수업에서는 대규모 언어 모델(LLM)의 일반적인 문제인 환각을 다룹니다.

LLM 환각은 모델이 사실과 다르거나 무의미하거나 완전히 조작된 정보를 생성하면서도 사실인 것처럼 제시하는 경우를 말합니다. 인공지능이 자신 있게 없는 내용을 지어내는 것과 같습니다!

LLM은 왜 '환각'을 일으킬까요

LLM은 방대한 텍스트 데이터의 패턴을 바탕으로 다음에 올 가능성이 가장 높은 단어를 예측하도록 학습됩니다. LLM은 인간과 같은 의미로 사실을 '알고' 있는 것이 아닙니다.

때로는 충분하거나 관련성 있는 정보가 부족합니다.
학습 데이터를 넘어 추론할 수도 있습니다.
사실의 정확성보다 일관되고 자신감 있게 들리는 것을 우선할 수 있습니다.

이 점을 이해하면 LLM을 더 잘 안내하는 프롬프트를 설계하는 데 도움이 됩니다.

전략 1: 맥락으로 근거 마련하기

환각을 줄이는 가장 효과적인 방법 중 하나는 관련 정보를 제공하여 LLM에 근거를 마련하는 것입니다. LLM이 학습 데이터에서 사실을 떠올리도록 요청하는 대신, 필요한 맥락을 프롬프트에 직접 제공하세요.

LLM을 모든 것을 아는 검색 엔진이 아니라, 여러분이 제공하는 텍스트를 매우 똑똑하게 읽는 독자라고 생각해 보세요.

예시: 맥락 제공하기

다음은 LLM에 구체적인 맥락을 제공하는 방법입니다. 그러면 모델은 제공된 텍스트에만 근거하여 답변을 작성합니다.

def simulate_llm_response(prompt):
    print(f"LLM received prompt:\n---\n{prompt}\n---")

context = "Marie Curie was a Polish and naturalized-French physicist and chemist who conducted pioneering research on radioactivity. She was the first woman to win a Nobel Prize."
query = "Tell me about Marie Curie's nationality based on the provided text."

prompt_with_context = (
    f"Context: {context}\n\n"
    f"Question: {query}\n\n"
    f"Answer (only use the context provided):"
)

simulate_llm_response(prompt_with_context)

전략 2: 불확실성 지시하기

LLM은 틀린 답을 할 때도 자신 있게 말하는 경우가 많습니다. 모델이 답을 모를 때 인정하도록 명시적으로 지시하면 이를 완화할 수 있습니다.

이렇게 하면 LLM이 빈틈을 메우려고 정보를 지어내는 대신 '모르겠습니다'라고 답하도록 유도할 수 있습니다.

예시: 불확실성 프롬프트

'모르겠다면 정보가 충분하지 않다고 말하세요.'와 같이 명확한 지침을 추가하세요.

def simulate_llm_response(prompt):
    print(f"LLM received prompt:\n---\n{prompt}\n---")

query = "What is the capital city of the planet Mars?"

prompt_with_uncertainty = (
    f"Answer the following question. If you don't know the answer, "
    f"please state 'I don't know' rather than guessing or fabricating information.\n\n"
    f"Question: {query}\n\n"
    f"Answer:"
)

simulate_llm_response(prompt_with_uncertainty)

전략 3: 출처 요청하기

또 다른 유용한 전략은 LLM에 출처를 인용하거나 추론 과정을 설명하도록 요청하는 것입니다. LLM이 항상 실제 웹 주소를 제공하는 것은 아니지만, 다음과 같은 효과가 있습니다.

모델이 정보를 더 신중하게 찾아오도록 합니다.
그럴듯한 출처나 추론 과정을 제시하지 못할 때 모델이 내용을 지어내고 있다는 것을 파악하는 데 도움이 됩니다.

전략 4: 단계별 사고 유도하기

복잡한 질문에서는 LLM에 최종 답변을 제시하기 전에 '단계별로 생각하세요' 또는 '추론 과정을 설명하세요'라고 요청하면 환각을 크게 줄일 수 있습니다.

이렇게 하면 모델이 문제를 나누어 살펴볼 수 있으므로 중간 단계가 더 정확해지고 최종 답변의 신뢰성도 높아지는 경우가 많습니다.

프롬프트 반복 및 개선하기

프롬프트 설계는 반복적인 과정입니다. LLM이 환각을 일으키더라도 포기하지 마세요!

다르게 표현하기: 프롬프트에 다른 표현을 사용해 보세요.
맥락 추가하기: 더욱 구체적인 정보를 제공하세요.
형식 지정하기: 출력 범위를 제한할 수 있도록 구조화된 형식(예: 글머리 기호나 데이터 표기 형식)으로 답하도록 요청하세요.
전략 결합하기: 근거 마련, 불확실성 지시 및 단계별 사고를 함께 활용하세요.

빠른 확인: 환각 줄이기

다음 중 LLM의 환각을 줄이는 데 효과적인 전략은 무엇입니까?

복습: 환각에 대응하기

잘하셨습니다! LLM의 환각을 최소화하는 핵심 전략을 배웠습니다.

근거 마련: 명시적인 맥락을 제공하세요.
불확실성: 모를 때는 모른다고 말하도록 LLM에 지시하세요.
검증: 출처나 추론을 요청하세요.
단계별 사고: 자세히 생각하도록 유도하세요.
반복: 프롬프트를 지속적으로 개선하세요.

이러한 기법을 적용하면 LLM과의 상호작용을 더욱 신뢰할 수 있고 정확하게 만들 수 있습니다!

자주 묻는 질문

“환각 감소 전략” 강의는 무료인가요?

네 — “환각 감소 전략” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 AI Prompt Engineering 강의 전체를 잠금 해제할 수 있습니다. AI Prompt Engineering 강의에는 총 3개의 강의가 포함되어 있습니다.

“환각 감소 전략”에서 뭘 배우나요?

LLM이 생성하는 사실 오류와 조작된 정보를 최소화하는 방법을 구현합니다. 브라우저에서 직접 실행하는 실습 코드로 AI Prompt Engineering을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.

AI Prompt Engineering을(를) 시작하는 데 경험이 필요한가요?

사전 경험은 필요하지 않습니다. CoddyKit의 AI Prompt Engineering은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 3개 중 2번째 강의입니다.

“환각 감소 전략” 강의는 얼마나 걸리나요?

대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.

이 AI Prompt Engineering 강의에서 코드를 작성하고 실행할 수 있나요?

네. 모든 AI Prompt Engineering 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.

이 강의의 모든 강의

← AI Prompt Engineering(으)로 돌아가기