인공지능이 할 수 없는 일
실시간 데이터, 기억, 추론 오류 및 자신 있게 제시하는 오답이라는 한계를 살펴봅니다.
인공지능이 할 수 없는 일은(는) CoddyKit의 무료 AI Prompt Engineering 강의입니다. 이것은 4개 중 4번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 AI Prompt Engineering 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. AI Prompt Engineering 강의에는 총 4개의 강의가 포함되어 있습니다.
반드시 알아야 할 한계
인공지능 언어 모델은 강력하지만 명확한 한계가 있습니다. 이러한 한계를 오해하면 노력 낭비, 잘못된 답변, 사용자 불만으로 이어집니다.
가장 큰 네 가지 한계는 실시간 인터넷 접근 불가, 세션 간 지속 메모리 없음, 확신에 찬 환각, 수학 및 논리 추론 오류입니다.
실시간 인터넷 접근 불가
기본적으로 LLM은 추론 시 완전히 오프라인 상태입니다. 따라서 다음을 수행할 수 없습니다.
- 오늘의 주가 조회
- 현재 날씨 확인
- 언급한 주소에 접근
- 구글이나 다른 출처 검색
'테슬라의 주가가 지금 얼마인가요?'라고 물으면 모델은 거부하거나 학습 데이터에 근거해 추측합니다. 이 데이터는 몇 개월 또는 몇 년 전의 것일 수 있습니다.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=128,
messages=[{
'role': 'user',
'content': 'What is Bitcoin\'s price right now in USD?'
}]
)
# The model will acknowledge it cannot access real-time data
print(response.content[0].text)
# To add real-time data, you must inject it yourself:
current_price = 67500 # fetched from an exchange API by YOUR code
response2 = client.messages.create(
model='claude-opus-4-5',
max_tokens=128,
messages=[{
'role': 'user',
'content': f'Bitcoin price as of now: ${current_price}. Is this above or below $70,000?'
}]
)
print(response2.content[0].text)지식 기준일
모든 LLM은 특정 날짜까지의 인터넷 스냅샷을 바탕으로 학습되며, 이 날짜를 지식 기준일이라고 합니다.
기준일 이후에 발생한 사건, 법률, 제품, 연구 논문, 새롭게 등장한 인물은 모델에 알려져 있지 않습니다. 모델이 여전히 확신에 차서 답할 수는 있지만, 이러한 답변은 실제 지식이 아니라 외삽에 근거합니다.
시간에 민감한 작업에서는 항상 모델이 명시한 지식 기준일을 확인하세요.
import openai
client = openai.OpenAI(api_key='sk-your-key-here')
# Ask the model to disclose its cutoff and caveats
response = client.chat.completions.create(
model='gpt-4o',
messages=[{
'role': 'user',
'content': (
'I need to know about the latest AI models released in the past 3 months. '
'Please state your knowledge cutoff date and any caveats before answering.'
)
}]
)
print(response.choices[0].message.content)
# Best practice: inject a date stamp so the model knows the current date
from datetime import date
today = date.today().isoformat()
response2 = client.chat.completions.create(
model='gpt-4o',
system=f'Today is {today}. Your knowledge cutoff may be earlier — say so if relevant.',
messages=[{'role': 'user', 'content': 'What are the latest LLM releases?'}]
)세션 간 지속 메모리 없음
새 세션을 시작하면 모델은 5분 전의 대화를 포함해 이전 대화를 전혀 기억하지 못합니다.
이는 버그가 아니라 상태 비저장 응용 프로그래밍 인터페이스가 작동하는 방식입니다. 모든 세션은 빈 컨텍스트에서 시작합니다.
세션 간 정보를 유지하려면 직접 정보를 저장한 다음(데이터베이스나 파일에 저장) 시스템 메시지나 대화 기록에 다시 주입해야 합니다.
import json
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Simulate storing user preferences between sessions
def load_user_profile(user_id):
# In production: load from database
return {'name': 'Alice', 'preferred_language': 'Python', 'skill_level': 'intermediate'}
def build_system_message(profile):
return (
f'The user\'s name is {profile["name"]}. '
f'They prefer {profile["preferred_language"]} examples. '
f'Their skill level is {profile["skill_level"]}. '
f'Tailor all responses accordingly.'
)
profile = load_user_profile('user-123')
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=256,
system=build_system_message(profile),
messages=[{'role': 'user', 'content': 'Show me how to read a file.'}]
)
print(response.content[0].text)환각: 확신에 차 있지만 틀린 답변
환각은 모델이 사실과 다르지만 그럴듯하게 들리는 텍스트를 생성하고, 이를 완전히 확신하는 태도로 제시하는 현상입니다.
일반적인 환각 유형은 다음과 같습니다.
- 지어낸 인용과 논문 제목
- 잘못된 날짜, 이름 또는 통계
- 꾸며낸 회사 정보 또는 제품 사양
- 존재하지 않는 응용 프로그래밍 인터페이스나 함수 이름
모델에는 내부 사실 확인 기능이 없습니다. 검증된 내용이 아니라 통계적으로 가능성이 높아 보이는 내용을 생성합니다.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Asking for a citation is a classic hallucination trigger
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=256,
messages=[{
'role': 'user',
'content': (
'Cite 3 peer-reviewed papers about the effect of social media on teen anxiety. '
'Include author names, journal names, and publication years.'
)
}]
)
print(response.content[0].text)
# WARNING: verify every citation independently — some may be fabricated환각 줄이기
환각을 완전히 없앨 수는 없지만 크게 줄일 수는 있습니다.
- 출처 자료 제공 — 붙여 넣은 문서만 근거로 답하도록 모델에 요청합니다
- 확신 수준 요청 — 확실하지 않을 때 '모르겠습니다'라고 말하도록 모델에 지시합니다
- 더 낮은 온도 사용 — 터무니없는 추측을 줄입니다
- 독립적으로 검증 — 중요한 출력은 항상 사실을 확인합니다
- 검색 증강 사용 — 질문하기 전에 실시간 사실을 주입합니다
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Ground the model with provided source material
document = (
'According to the 2023 Pew Research report, 46% of US teens say '
'they are online almost constantly, up from 24% in 2014-2015.'
)
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=256,
system=(
'Answer ONLY using the provided document. '
'If the answer is not in the document, say: "The document does not cover this."'
),
messages=[{
'role': 'user',
'content': f'Document:\n{document}\n\nQuestion: What percentage of US teens are online almost constantly?'
}]
)
print(response.content[0].text)수학적 추론 오류
LLM은 계산기가 아닙니다. 올바른 수학처럼 보이는 토큰을 생성하지만 다음과 같은 경우에 오류를 일으킵니다.
- 여러 단계의 산술 계산
- 큰 수 연산
- 백분율 및 단위 변환
- 변수가 많은 논리 퍼즐
숫자가 포함된 작업은 항상 코드 실행이나 외부 계산기를 사용해 계산한 다음, 모델에게 결과를 해석하게 하세요.
import openai
client = openai.OpenAI(api_key='sk-your-key-here')
# Bad practice: ask the LLM to compute a complex calculation directly
response_direct = client.chat.completions.create(
model='gpt-4o',
messages=[{'role': 'user', 'content': 'What is 17.83% of 348,921.47?'}]
)
print('LLM answer:', response_direct.choices[0].message.content)
# Good practice: compute in Python, then ask LLM to explain it
result = round(348921.47 * 0.1783, 2)
response_explained = client.chat.completions.create(
model='gpt-4o',
messages=[{
'role': 'user',
'content': f'17.83% of 348,921.47 is ${result}. Explain what this means for a budget report.'
}]
)
print('Explained:', response_explained.choices[0].message.content)복잡한 논리 및 추론의 한계
LLM은 여러 제약을 동시에 유지하거나 여러 단계에 걸쳐 상태를 추적해야 하는 작업에 어려움을 겪습니다.
- 여러 단계로 이루어진 긴 논리 증명
- 제약 조건이 많은 일정 계획 문제
- 깊게 중첩된 논리가 포함된 코드
- 그래프 순회 또는 조합 문제
사고 연쇄 프롬프팅(모델에 '단계별로 생각하라'고 요청하는 방식)은 성능을 크게 향상하지만 오류를 없애지는 못합니다.
import anthropic
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Chain-of-thought improves complex reasoning
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=512,
messages=[{
'role': 'user',
'content': (
'A train leaves Station A at 9:00 AM traveling at 80 km/h. '
'Another train leaves Station B (300 km away) at 10:00 AM traveling at 100 km/h toward Station A. '
'At what time do they meet?\n\n'
'Think step by step before giving your answer.'
)
}]
)
print(response.content[0].text)파일 및 이미지의 한계
기본 LLM 응용 프로그래밍 인터페이스에는 알아 두어야 할 파일 처리 제약이 있습니다.
- 텍스트를 먼저 추출하지 않으면 PDF를 보내도 모델이 이를 '읽도록' 할 수 없습니다
- 이미지 입력에는 다중 모달 모델이 필요합니다(GPT-4o, 비전 기능이 활성화된 클로드)
- 오디오, 비디오, 스프레드시트는 일반적으로 모델이 사용하기 전에 전처리해야 합니다
다중 모달 엔드포인트를 사용하는 경우가 아니라면 프롬프트에 포함하기 전에 항상 문서를 텍스트로 변환하세요.
import anthropic
import base64
from pathlib import Path
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Images require explicit base64 encoding and vision-capable model
image_data = base64.standard_b64encode(Path('chart.png').read_bytes()).decode('utf-8')
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=256,
messages=[{
'role': 'user',
'content': [
{
'type': 'image',
'source': {'type': 'base64', 'media_type': 'image/png', 'data': image_data}
},
{'type': 'text', 'text': 'Describe what this chart shows.'}
]
}]
)
print(response.content[0].text)인공지능이 잘하는 일 — 균형 잡힌 관점
한계를 알면 인공지능이 뛰어난 분야에서 인공지능을 활용할 수 있습니다.
- 언어 작업: 작성, 편집, 요약, 번역 — 매우 뛰어남
- 텍스트의 패턴 인식: 분류, 추출 — 매우 뛰어남
- 브레인스토밍: 다양하고 많은 아이디어 생성 — 매우 뛰어남
- 수학 및 논리: 코드를 사용하고 인공지능은 해석에 활용 — 도구 사용
- 실시간 사실: 직접 데이터를 주입하고 인공지능은 추론에 활용 — 검색 사용
- 메모리: 외부에 저장한 뒤 다시 주입 — 데이터베이스 사용
# Pattern: inject real-time context + use AI for reasoning, not retrieval
import anthropic
from datetime import datetime
client = anthropic.Anthropic(api_key='sk-ant-your-key-here')
# Your application fetches these from real sources
weather_data = {'city': 'London', 'temp_c': 12, 'condition': 'rainy'}
news_headline = 'UK inflation drops to 2.3% in April 2025'
context = (
f'Current date: {datetime.now().strftime("%Y-%m-%d")}\n'
f'Weather in {weather_data["city"]}: {weather_data["temp_c"]}C, {weather_data["condition"]}\n'
f'Today\'s top news: {news_headline}'
)
response = client.messages.create(
model='claude-opus-4-5',
max_tokens=256,
system='You are a helpful assistant. Use only the provided context for current facts.',
messages=[{'role': 'user', 'content': f'{context}\n\nWhat should I wear today and what is the economic mood?'}]
)
print(response.content[0].text)황금률: 인공지능 출력 검증
인공지능을 사용할 때 가장 중요한 단 하나의 습관은 실행하기 전에 출력을 검증하는 것입니다.
- 사실 → 1차 출처 확인
- 코드 → 실행하고 경계 사례 시험
- 수학 → 독립적으로 계산
- 인용 → 구글 스칼라에서 검색
- 의료 / 법률 / 금융 조언 → 자격을 갖춘 전문가와 상담
인공지능은 초안 작성, 생성, 브레인스토밍에 사용하고, 검증할 때는 자신의 판단을 사용하세요.
import openai
client = openai.OpenAI(api_key='sk-your-key-here')
# Ask the model to flag its own uncertainty
response = client.chat.completions.create(
model='gpt-4o',
messages=[
{
'role': 'system',
'content': (
'After every response, add a line starting with CONFIDENCE: '
'and rate your certainty as HIGH, MEDIUM, or LOW, '
'with a brief reason.'
)
},
{
'role': 'user',
'content': 'Who won the 2023 FIFA Women\'s World Cup and what was the final score?'
}
]
)
print(response.choices[0].message.content)이해도 확인
개발자가 LLM에 1,456,820의 23.7%를 계산하고 그 결과를 사용해 재무 보고서 요약을 작성하도록 요청합니다. 이 작업 흐름의 위험은 무엇인가요?
인공지능의 한계 — 복습
항상 기억해야 할 핵심 한계는 다음과 같습니다.
- 실시간 인터넷 없음 — 자체 코드에서 실시간 데이터를 주입합니다
- 지식 기준일 — 모델은 학습 날짜 이후의 어떤 것도 알지 못합니다
- 세션 메모리 없음 — 컨텍스트를 외부에 저장하고 다시 주입합니다
- 환각 — 사실, 인용, 코드를 독립적으로 검증합니다
- 수학 오류 — 코드로 계산하고 인공지능은 해석에 사용합니다
- 논리의 한계 — 사고 연쇄를 사용하되 복잡한 추론은 여전히 검증합니다
한계를 이해하는 것이 효과적인 인공지능 사용자와 좌절하는 사용자를 가르는 기준입니다.
AI 튜터와 함께 AI Prompt Engineering을(를) 배우세요 — 무료
브라우저에서 실제 코드를 작성하고 실행하며, 24/7 AI 튜터로부터 즉각적인 도움을 받고, 웹이나 앱에서 중단한 부분부터 계속 학습하세요.
- 코스
- 53
- 레슨
- 199
자주 묻는 질문
“인공지능이 할 수 없는 일” 강의는 무료인가요?
네 — “인공지능이 할 수 없는 일” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 AI Prompt Engineering 강의 전체를 잠금 해제할 수 있습니다. AI Prompt Engineering 강의에는 총 4개의 강의가 포함되어 있습니다.
“인공지능이 할 수 없는 일”에서 뭘 배우나요?
실시간 데이터, 기억, 추론 오류 및 자신 있게 제시하는 오답이라는 한계를 살펴봅니다. 브라우저에서 직접 실행하는 실습 코드로 AI Prompt Engineering을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
AI Prompt Engineering을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 AI Prompt Engineering은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 4번째 강의입니다.
“인공지능이 할 수 없는 일” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 AI Prompt Engineering 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 AI Prompt Engineering 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.
이 강의의 모든 강의
- 채팅 인터페이스 이해하기
- 인공지능이 처리할 수 있는 요청 유형
- 인공지능은 어떻게 응답을 생성하는가
- 인공지능이 할 수 없는 일