규모에 맞춰 작동하는 LLM 애플리케이션을 구축하고 배포하세요
대규모 언어 모델은 프로덕션에서 안정적으로 실행될 때만 유용합니다. 이 트랙은 LLM 기반 앱을 빠르고 정확하며 비용 효율적으로 만드는 풀 스택 기술들을 다룹니다: Retrieval-Augmented Generation, 벡터 데이터베이스, 응답 캐싱, 프로덕션 배포 패턴. 전적으로 실무 중심이며, 모든 개념이 실제 시스템에서 작성할 코드로 직접 매핑됩니다.
학습 내용
RAG 기초부터 시작하여 쿼리 시점에 관련 컨텍스트를 가져오는 검색 파이프라인에 LLM을 연결하는 방법을 배웁니다. 그 다음 벡터 데이터베이스를 구성하고 쿼리하며, 지연 시간과 API 비용을 줄이는 캐싱 레이어를 구현하고, 견고한 데이터 수집 및 전처리 파이프라인을 구축합니다. 이후 코스들은 RAG 시스템의 평가 및 테스트 방법론, 정확도와 재현율을 높이기 위한 Advanced RAG Techniques, 그리고 속도 제한, 장애 조치, prompt injection 방어를 포함한 Security and Reliability in LLM Production을 다룹니다.
학습 경로
B1부터 C2까지 12개 코스가 있습니다. 첫 번째 코스인 Introduction to LLM Production & RAG Fundamentals는 무료이며 기본 개념을 다집니다. B1–B2 코스들은 작동하는 파이프라인을 구축합니다: 첫 RAG 앱, 벡터 DB 통합, 캐싱, 데이터 전처리, 평가. C1 코스들은 Advanced RAG Techniques for Enhanced Performance, Optimizing RAG Performance and Cost Efficiency, Production Deployment Strategies for LLM Apps로 난이도를 높입니다. 트랙은 C2인 Scaling and Monitoring LLM Applications으로 마무리되며, 분산 로드, 가시성, 라이브 시스템의 알림을 다룹니다.
작동 방식
각 코스는 내장 에디터에서 실시간 피드백과 필요할 때 이용할 수 있는 AI 튜터와 함께 완료하는 짧고 실무 중심의 레슨으로 구성되어 있습니다. 연습은 실제적인 데이터와 서비스 구성을 사용하므로 학습하는 내용이 프로덕션 시스템이 실제로 요구하는 것을 반영합니다.