서비스와 API 정의하기
유형이 지정된 서비스 엔드포인트를 통해 실행기를 외부에 노출하세요.
서비스와 API 정의하기은(는) CoddyKit의 무료 MLOps Academy 강의입니다. 이것은 4개 중 2번째 강의입니다. 아래에서 전체 강의를 무료로 읽을 수 있으며, 내장 코드 에디터와 24/7 AI 튜터와 함께 브라우저에서 직접 실습할 수 있습니다. 이 강의는 MLOps Academy 학습 경로의 일부이며, 진행 상황이 웹과 CoddyKit 앱에 동기화됩니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
Service란
BentoML에서 Service는 배포하는 단위입니다. 모델을 감싸고 클라이언트가 호출할 수 있는 하나 이상의 API 엔드포인트를 제공합니다. 🛎️
Runner가 모델을 실행합니다
runner는 저장된 모델을 감싸는 BentoML의 최적화된 래퍼입니다. 자체 작업자에서 추론을 처리하므로 API가 응답성을 유지할 수 있습니다.
runner = bentoml.sklearn.get("iris_clf:latest").to_runner()Service 만들기
이름을 지정하고 runner를 전달하면 서비스를 만들 수 있습니다. Service 객체가 BentoML이 제공하고 확장하는 대상입니다.
svc = bentoml.Service("iris_classifier", runners=[runner])엔드포인트 추가하기
@svc.api 데코레이터를 사용하면 함수를 API로 공개할 수 있습니다. 그러면 해당 함수가 호출 가능한 HTTP 경로가 됩니다.
@svc.api(input=..., output=...)
def classify(data):
...입력과 출력 선언하기
형식이 지정된 IO 설명자를 설정하면 BentoML이 유효성을 검사하고 직렬화할 수 있습니다. NumpyNdarray는 배열을 입력으로 받고 출력으로 반환한다는 뜻입니다.
from bentoml.io import NumpyNdarray내부에서 Runner 호출하기
API 함수 안에서는 runner를 통해 모델을 호출합니다. run을 사용하면 입력이 모델 작업자에게 전달되고 결과가 반환됩니다.
result = runner.predict.run(data)
return resultservice.py에 작성하기
BentoML은 관례에 따라 특정 파일에서 코드를 찾습니다. 프로젝트 루트에 있는 service.py에 서비스를 작성합니다.
로컬에서 제공하기
명령 하나로 개발 서버를 시작할 수 있습니다. bentoml serve는 파일과 svc 객체를 대상으로 지정한 뒤 변경 사항을 감지합니다.
bentoml serve service:svc --reload딕셔너리에는 JSON 사용하기
모든 API가 배열을 사용하는 것은 아닙니다. 클라이언트가 딕셔너리를 보내고 받는다면 설명자를 JSON으로 바꾸세요.
from bentoml.io import JSON내장 Swagger 문서
실행이 시작되면 BentoML은 루트 URL에서 대화형 Swagger 문서를 제공합니다. 브라우저에서 각 엔드포인트를 테스트할 수 있습니다. 🎉
curl 호출로 테스트하기
터미널에서 실행 중인 엔드포인트에 요청을 보낼 수 있습니다. 간단한 curl POST 요청으로 샘플 입력을 보내고 반환되는 예측을 확인합니다.
curl -X POST localhost:3000/classify -d "[[5.1,3.5,1.4,0.2]]"빠른 확인
API 함수 내부에서 모델을 호출하려고 합니다. 어떤 래퍼를 사용해야 할까요?
복습
러너를 서비스로 바꾸고, 형식이 지정된 IO를 사용하는 @svc.api 엔드포인트를 노출한 다음 service.py에 넣고 기본 제공 문서와 함께 제공했습니다. 실시간 API가 완성되었습니다! 🙌
자주 묻는 질문
“서비스와 API 정의하기” 강의는 무료인가요?
네 — “서비스와 API 정의하기” 전체 내용을 이 웹사이트에서 무료로 읽을 수 있습니다. 인터랙티브하게 실습하려면(내장 코드 에디터와 24/7 AI 튜터), CoddyKit PRO로 업그레이드하면 MLOps Academy 강의 전체를 잠금 해제할 수 있습니다. MLOps Academy 강의에는 총 4개의 강의가 포함되어 있습니다.
“서비스와 API 정의하기”에서 뭘 배우나요?
유형이 지정된 서비스 엔드포인트를 통해 실행기를 외부에 노출하세요. 브라우저에서 직접 실행하는 실습 코드로 MLOps Academy을(를) 배우며, 24/7 AI 튜터가 강의를 진행하면서 질문에 답변해줍니다.
MLOps Academy을(를) 시작하는 데 경험이 필요한가요?
사전 경험은 필요하지 않습니다. CoddyKit의 MLOps Academy은(는) 초급자부터 고급 학습자까지를 위해 구성되어 있으므로, 여기서 시작하거나 처음부터 시작할 수 있으며 자신의 속도대로 진행할 수 있습니다. 이것은 4개 중 2번째 강의입니다.
“서비스와 API 정의하기” 강의는 얼마나 걸리나요?
대부분의 CoddyKit 강의는 약 5~10분이 소요됩니다. 각 강의는 간결하고 인터랙티브하여 꾸준한 진행이 가능하며, 웹과 앱에서 중단한 부분부터 바로 시작할 수 있습니다.
이 MLOps Academy 강의에서 코드를 작성하고 실행할 수 있나요?
네. 모든 MLOps Academy 강의에는 내장 코드 에디터가 포함되어 있으므로, 브라우저에서 바로 실제 코드를 작성하고 실행한 후 즉시 AI 피드백을 받을 수 있습니다 — 로컬 설정이 필요 없습니다.