MLOps Academy · レッスン

予測のラウンドトリップを追跡する

入力からログに記録されたレスポンスまで、1件のリクエストを追跡します。

レッスン 4/413 ステップ

「予測のラウンドトリップを追跡する」はCoddyKit上の無料MLOps Academyレッスンです。 これはレッスン4/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはMLOps Academy学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 MLOps Academyコースには全4レッスンが含まれています。

1つのリクエストを追跡する

処理全体の流れを確認しましょう。クライアントのリクエストから、ログに記録されたレスポンスまで、1つの予測を追跡します。🔍

クライアントが入力を送信する

呼び出し元がJSONを/predictにPOSTします。これは、モデルが判断を行うために必要な、生の入力特徴量のペイロードです。

curl -X POST localhost:8000/predict \
  -H "Content-Type: application/json" \
  -d '{"tenure": 12, "monthly_charges": 79.9}'

Pydanticが検証する

FastAPIはスキーマに基づいて本文を解析します。フィールドが欠けている場合や型が正しくない場合、モデルを実行する前にPydanticが422を返して拒否します。

モデルが予測する

検証済みの行が、読み込み済みのchampionモデルに渡されます。モデルはメモリ上で結果を計算するため、この処理中に再トレーニングやレジストリ呼び出しは発生しません。

pred = app.state.model.predict([[f.tenure, f.monthly_charges]])

処理内容をログに記録する

レスポンスを返す前に、入力、予測、タイムスタンプを含むstructured logの行を書き込みます。これが監査証跡になります。

import logging, json
logging.info(json.dumps({
    "input": f.model_dump(),
    "prediction": int(pred[0]),
}))

レスポンスを返す

FastAPIがdictをJSONにシリアライズして、200とともに送信します。クライアントは数ミリ秒でpredictionを受け取ります。

{"prediction": 1}

レイテンシを記録する

呼び出しを計測して、処理にかかった時間を測定します。リクエストごとのlatencyをログに記録することで、後に監視ダッシュボードを作成できます。

import time
start = time.perf_counter()
# predict...
elapsed_ms = (time.perf_counter() - start) * 1000

バージョンに関連付ける

どのモデルが回答を生成したかをログに記録します。versionを記録しておけば、過去の予測をどのモデルが生成したかを常に正確に確認できます。

{"model": "churn-classifier", "version": 3}

一連の流れが完了する

トレーニング、登録、プロモート、サービング、予測、ログ記録。1つのリクエストが、構築したパイプライン全体を通過しました。これがエンドツーエンドのMLOpsです。🎯

確認問題

すべてのリクエストで、入力、予測、モデルのバージョンをログに記録するのはなぜですか。

ログが監視に役立つ

記録した一連の処理結果は、次の段階である、レイテンシ、エラー率、そして最終的には時間経過による入力ドリフトのmonitoringに利用する基礎データになります。

システムを構築した

これはもうノートブックではありません。すべての予測をエンドツーエンドで説明・再現できる、追跡可能なsystemです。

復習:完全なラウンドトリップ

1つのリクエストを、検証、予測、ロギング、レスポンスまで追跡し、モデルのバージョンとも関連付けました。これで最初のエンドツーエンドのフローは完了です。✅

無料で開始

AI チューターと学ぶ Python — 無料

ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。

コース
30
レッスン
120

よくある質問

「予測のラウンドトリップを追跡する」レッスンは無料ですか?

はい。「予測のラウンドトリップを追跡する」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し(組み込みコードエディタと24時間対応のAIチューター)、MLOps Academyコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 MLOps Academyコースには全4レッスンが含まれています。

「予測のラウンドトリップを追跡する」で何を学びますか?

入力からログに記録されたレスポンスまで、1件のリクエストを追跡します。 ブラウザで直接実行するハンズオンコードでMLOps Academyを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。

MLOps Academyを始めるのに経験は必要ですか?

事前経験は必要ありません。CoddyKitのMLOps Academyは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン4/4です。

「予測のラウンドトリップを追跡する」レッスンにはどのくらい時間がかかりますか?

ほとんどのCoddyKitレッスンは約5~10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。

このMLOps Academyレッスンでコードを書いて実行できますか?

はい。すべてのMLOps Academyレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。

このコースのすべてのレッスン

  1. 学習してレジストリに記録する
  2. 最良のモデルをProductionへ昇格させる
  3. Productionモデルを提供する
  4. 予測のラウンドトリップを追跡する
← MLOps Academyに戻る