자동 완성에서 ChatGPT까지

ChatGPT가 등장하기 전에는 컴퓨터가 어떤 단어 뒤에 어떤 단어가 자주 나오는지 세어 다음 단어를 추측했습니다. 이를 n-그램 모델이라고 합니다. 빠르지만 실제로 이해하지는 못했습니다.

그다음에는 순환 신경망이 등장했습니다. 순환 신경망은 텍스트를 단어 단위로 읽으며 앞에서 읽은 내용을 기억했습니다. 단순히 세는 것보다는 똑똑했지만, 긴 텍스트에서는 느리고 잘 잊어버렸습니다.

2017년, Google의 트랜스포머는 모델이 단어를 하나씩 보는 대신 모든 단어를 한 번에 볼 수 있게 했습니다. 덕분에 대규모 고속 학습이 가능해졌고, 오늘날 거의 모든 LLM의 기반이 되었습니다. 🚀

OpenAI의 GPT 모델은 계속 커졌고, GPT-3는 매개변수 1,750억 개에 도달했습니다. 이 정도 규모가 되자 배운 적도 없는 수학을 하는 것과 같은 놀라운 창발적 능력이 나타났습니다.

가공되지 않은 GPT-3는 사용자의 말을 무시하거나 장황하게 답하는 경우가 많았습니다. RLHF는 사람들이 답변을 평가하게 하여 모델이 지시를 따르도록 학습시킴으로써 이를 개선했고, ChatGPT가 탄생했습니다.

ChatGPT의 진정한 마법은 대화 인터페이스였습니다. 대화를 기억했기 때문에 그냥 말을 걸 수 있었고, 수백만 명이 즉시 사용할 수 있었습니다. 💬

이전의 NLP에서는 작업마다 새로운 모델이 필요했습니다. LLM은 하나의 범용 모델입니다. 평범한 지시만으로 번역, 요약, 코딩, 대화를 모두 수행할 수 있습니다.

매개변수는 모델이 학습 중에 배우는 숫자로, 모델의 지식을 나타냅니다. 매개변수가 많으면 답변은 더 똑똑해지지만, 각 요청을 처리하는 비용도 커집니다.

LLM은 사전 학습 중에 방대한 양의 텍스트를 읽고 다음 단어를 예측하면서 학습합니다. 이 한 가지 작업만으로도 문법, 사실, 추론 능력을 익힙니다.

ChatGPT 이후 경쟁이 시작되었습니다. Claude, Gemini, Llama 등이 잇따라 등장했습니다. 이제 진짜 질문은 "AI가 이 일을 할 수 있는가?"가 아니라 어떤 모델을 어떤 비용과 상충 관계를 감수하며 사용할 것인가입니다.

이 역사를 알면 큰 도움이 됩니다. 거부 응답은 RLHF의 안전장치 때문이고, 자신 있게 내놓는 오답은 학습 데이터의 빈틈 때문입니다. 이유를 이해하면 더 나은 시스템을 만들 수 있습니다.

이 수업에서 배운 AI 엔지니어링 개념을 얼마나 이해했는지 확인해 보세요.

요약: n-그램과 순환 신경망이 먼저 등장했지만 한계가 있었고, 트랜스포머가 모델의 규모 확장을 가능하게 했으며, RLHF가 가공되지 않은 GPT-3를 ChatGPT로 바꾸었습니다. 다음 주제: 어텐션이 실제로 작동하는 방식 ✨