予測のラウンドトリップを追跡する
入力からログに記録されたレスポンスまで、1件のリクエストを追跡します。
「予測のラウンドトリップを追跡する」はCoddyKit上の無料MLOps Academyレッスンです。 これはレッスン4/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはMLOps Academy学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 MLOps Academyコースには全4レッスンが含まれています。
1つのリクエストを追跡する
処理全体の流れを確認しましょう。クライアントのリクエストから、ログに記録されたレスポンスまで、1つの予測を追跡します。🔍
クライアントが入力を送信する
呼び出し元がJSONを/predictにPOSTします。これは、モデルが判断を行うために必要な、生の入力特徴量のペイロードです。
curl -X POST localhost:8000/predict \
-H "Content-Type: application/json" \
-d '{"tenure": 12, "monthly_charges": 79.9}'Pydanticが検証する
FastAPIはスキーマに基づいて本文を解析します。フィールドが欠けている場合や型が正しくない場合、モデルを実行する前にPydanticが422を返して拒否します。
モデルが予測する
検証済みの行が、読み込み済みのchampionモデルに渡されます。モデルはメモリ上で結果を計算するため、この処理中に再トレーニングやレジストリ呼び出しは発生しません。
pred = app.state.model.predict([[f.tenure, f.monthly_charges]])処理内容をログに記録する
レスポンスを返す前に、入力、予測、タイムスタンプを含むstructured logの行を書き込みます。これが監査証跡になります。
import logging, json
logging.info(json.dumps({
"input": f.model_dump(),
"prediction": int(pred[0]),
}))レスポンスを返す
FastAPIがdictをJSONにシリアライズして、200とともに送信します。クライアントは数ミリ秒でpredictionを受け取ります。
{"prediction": 1}レイテンシを記録する
呼び出しを計測して、処理にかかった時間を測定します。リクエストごとのlatencyをログに記録することで、後に監視ダッシュボードを作成できます。
import time
start = time.perf_counter()
# predict...
elapsed_ms = (time.perf_counter() - start) * 1000バージョンに関連付ける
どのモデルが回答を生成したかをログに記録します。versionを記録しておけば、過去の予測をどのモデルが生成したかを常に正確に確認できます。
{"model": "churn-classifier", "version": 3}一連の流れが完了する
トレーニング、登録、プロモート、サービング、予測、ログ記録。1つのリクエストが、構築したパイプライン全体を通過しました。これがエンドツーエンドのMLOpsです。🎯
確認問題
すべてのリクエストで、入力、予測、モデルのバージョンをログに記録するのはなぜですか。
ログが監視に役立つ
記録した一連の処理結果は、次の段階である、レイテンシ、エラー率、そして最終的には時間経過による入力ドリフトのmonitoringに利用する基礎データになります。
システムを構築した
これはもうノートブックではありません。すべての予測をエンドツーエンドで説明・再現できる、追跡可能なsystemです。
復習:完全なラウンドトリップ
1つのリクエストを、検証、予測、ロギング、レスポンスまで追跡し、モデルのバージョンとも関連付けました。これで最初のエンドツーエンドのフローは完了です。✅
AI チューターと学ぶ Python — 無料
ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。
- コース
- 30
- レッスン
- 120
よくある質問
「予測のラウンドトリップを追跡する」レッスンは無料ですか?
はい。「予測のラウンドトリップを追跡する」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し(組み込みコードエディタと24時間対応のAIチューター)、MLOps Academyコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 MLOps Academyコースには全4レッスンが含まれています。
「予測のラウンドトリップを追跡する」で何を学びますか?
入力からログに記録されたレスポンスまで、1件のリクエストを追跡します。 ブラウザで直接実行するハンズオンコードでMLOps Academyを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
MLOps Academyを始めるのに経験は必要ですか?
事前経験は必要ありません。CoddyKitのMLOps Academyは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン4/4です。
「予測のラウンドトリップを追跡する」レッスンにはどのくらい時間がかかりますか?
ほとんどのCoddyKitレッスンは約5~10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このMLOps Academyレッスンでコードを書いて実行できますか?
はい。すべてのMLOps Academyレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。
このコースのすべてのレッスン
- 学習してレジストリに記録する
- 最良のモデルをProductionへ昇格させる
- Productionモデルを提供する
- 予測のラウンドトリップを追跡する