LangChain 아키텍처와 LCEL

LangChain은 프롬프트, 모델, 파서, 검색기, 메모리처럼 재사용 가능한 구성 요소를 조합해 LLM 애플리케이션을 만드는 프레임워크입니다. API 호출을 일일이 연결하는 대신, 한 구성 요소에서 다음 구성 요소로 데이터를 전달하는 체인을 만듭니다.

거의 모든 체인에는 세 가지 구성 요소가 등장합니다. 입력을 프롬프트 형식으로 바꾸는 PromptTemplate, LLM인 채팅 모델, 결과를 정리하는 출력 파서입니다. LangChain은 이들을 하나의 처리 과정으로 연결합니다.

프롬프트 템플릿에는 실행 시점에 값이 채워지는 자리 표시자가 들어 있습니다. {variable} 구문을 사용합니다. 딕셔너리로 체인을 호출하면 해당 키에 맞는 값이 자리 표시자에 치환됩니다.

LCEL(LangChain 표현 언어)은 파이프 연산자 |로 구성 요소를 조합합니다. 각 단계의 출력이 다음 단계로 전달되므로, 왼쪽에서 오른쪽으로 읽는 유닉스 처리 과정과 비슷합니다.

채팅 모델은 일반 문자열이 아니라 메시지 객체를 반환합니다. StrOutputParser()는 .content 텍스트를 추출해 체인이 깔끔한 문자열을 반환하도록 합니다. 이것이 없으면 구조화된 메시지를 받게 됩니다.

템플릿 변수를 채우는 딕셔너리를 전달해 chain.invoke()로 체인을 실행합니다. 결과는 구문 분석된 문자열 출력입니다.

실시간 출력을 원하면 invoke 대신 chain.stream()을 호출합니다. 이 메서드는 모델이 출력을 생성하는 대로 출력 조각을 내보내는 생성기를 반환하며, 원시 API 스트리밍과 같은 방식으로 동작합니다.

chain.batch()를 사용하면 많은 입력을 효율적으로 처리할 수 있습니다. 입력 딕셔너리 목록을 전달하면 LangChain이 이를 동시에 실행하고, 같은 순서의 결과 목록을 반환합니다.

RunnablePassthrough는 입력을 변경하지 않고 그대로 전달합니다. 체인이 변환된 값과 함께 원래 입력도 유지해야 할 때 필수적이며, 질문과 검색된 컨텍스트를 모두 전달하는 RAG에서 흔히 사용됩니다.

단계가 딕셔너리이면 각 값이 병렬로 실행되고, 그 결과가 다음 단계의 입력이 됩니다. 이렇게 하면 검색 처리 과정을 구동하는 다중 입력 프롬프트를 만들 수 있으며, 각 키를 실행 가능한 구성 요소나 그대로 전달하는 구성 요소에 연결할 수 있습니다.

LCEL 체인은 스트리밍, 일괄 처리 및 비동기 처리를 기본으로 제공하고, 읽기 쉬우며, 레고 블록처럼 쉽게 조합할 수 있습니다. 동일한 파이프 구문이 한 줄짜리 프롬프트부터 완전한 RAG 시스템까지 확장됩니다.

LCEL 이해도를 확인해 보세요.

파이프 연산자로 LangChain 구성 요소를 조합했습니다. prompt | model | StrOutputParser()와 같이 작성합니다. invoke로 체인을 실행하고, stream으로 스트리밍하며, batch로 많은 입력을 처리했습니다. RunnablePassthrough와 딕셔너리 구성을 사용하면 RAG를 위한 다중 입력 처리 과정을 만들 수 있습니다.