学習にSpot Instanceを使う
わずかなコストで中断可能なジョブを実行します。
「学習にSpot Instanceを使う」はCoddyKit上の無料MLOps Academyレッスンです。 これはレッスン3/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはMLOps Academy学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 MLOps Academyコースには全4レッスンが含まれています。
安価なコンピューティングの注意点
クラウドプロバイダーは、余っているキャパシティを大幅な割引で貸し出しています。これらのスポットインスタンスは、オンデマンドマシンより最大90パーセント安くなることがあります。
いつでも消える可能性がある
注意点は、プロバイダーがほとんど予告なくスポットインスタンスを回収できることです。この中断がスポットの安さの理由であり、対策が必要な理由でもあります。
トレーニングは中断に耐えられる
トレーニングはユーザーの目の前ではなくバックグラウンドで実行されるため、スポットに適しています。ジョブが一時停止しても、稼働中のリクエストが失われる場合ほど大きな問題にはなりません。
早めかつ頻繁にチェックポイントを保存する
重要な習慣は、中断が起きる前に進捗を保存することです。チェックポイントによって、モデルの重みとオプティマイザーの状態を実行中に永続ストレージへ書き込みます。
torch.save({"epoch": epoch, "model": model.state_dict()}, "ckpt.pt")停止した場所から再開する
新しいスポットインスタンスが起動したら、最後のチェックポイントを読み込み、処理を続けます。再開によって、回収されたマシンを、作業の喪失ではなく短い一時停止に変えられます。
ckpt = torch.load("ckpt.pt")
model.load_state_dict(ckpt["model"])チェックポイントをマシン外に保存する
チェックポイントは S3 のような永続ストレージに保存し、ローカルディスクには保存しないでください。インスタンスが停止しても、進捗が外部で保持されていなければなりません。
終了通知に注意する
ほとんどのクラウドは、マシンを回収する前に短い警告を送ります。その終了通知を検知し、可能なうちに最後のチェックポイントを書き込みます。
インスタンスタイプを分散する
1つのマシンタイプが不足すると、ジョブが停止します。複数のタイプとゾーンをリクエストすれば、安価なキャパシティを確保できる可能性が高まります。
安定したコンピューティングでサービングを続ける
スポットはトレーニングには適していますが、ユーザーが依存する低レイテンシーのサービングには必ずしも適しません。信頼性を確保するため、推論はオンデマンドまたは予約済みのキャパシティで実行します。
ツールに変動への対応を任せる
SageMaker Managed Spot や Kubernetes などのマネージドサービスを使えば、ジョブを自動再開でき、中断による影響の大部分を隠せます。
コスト削減と遅延を比較する
スポットは、コストと引き換えに時折発生する遅延を受け入れる仕組みです。期限が重要な実行では、より安全なオンデマンド料金を支払う価値があります。
クイックチェック
スポットでのトレーニングを安全に続けられるか確認しましょう。
まとめ
スポットが安価な理由を学び、永続ストレージに頻繁にチェックポイントを保存し、中断後に再開し、安定したコンピューティングでサービングを継続しました。💰
AI チューターと学ぶ Python — 無料
ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。
- コース
- 30
- レッスン
- 120
よくある質問
「学習にSpot Instanceを使う」レッスンは無料ですか？
はい。「学習にSpot Instanceを使う」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し（組み込みコードエディタと24時間対応のAIチューター）、MLOps Academyコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 MLOps Academyコースには全4レッスンが含まれています。
「学習にSpot Instanceを使う」で何を学びますか？
わずかなコストで中断可能なジョブを実行します。 ブラウザで直接実行するハンズオンコードでMLOps Academyを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
MLOps Academyを始めるのに経験は必要ですか？
事前経験は必要ありません。CoddyKitのMLOps Academyは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン3/4です。
「学習にSpot Instanceを使う」レッスンにはどのくらい時間がかかりますか？
ほとんどのCoddyKitレッスンは約5～10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このMLOps Academyレッスンでコードを書いて実行できますか？
はい。すべてのMLOps Academyレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。
このコースのすべてのレッスン
- インスタンスとレプリカを適正化する
- 量子化と蒸留で推論コストを下げる
- 学習にSpot Instanceを使う
- 予測1回あたりのコストを追跡する