プロンプトよりファインチューニングが有効な場合
狭いタスク、独自フォーマット、プロンプトの短縮にはファインチューニングを使います — 新しい事実を教えるためではありません。
「プロンプトよりファインチューニングが有効な場合」はCoddyKit上の無料AI Agentsレッスンです。 これはレッスン1/4です。 下記で完全なレッスンを無料で読むことができます。その後、ブラウザ内の組み込みコードエディタと24時間対応のAIチューターでハンズオン演習できます。 これはAI Agents学習パスの一部であり、ウェブとCoddyKitアプリ全体で進捗が同期されます。 AI Agentsコースには全4レッスンが含まれています。
まずプロンプト、次にファインチューニング
ファインチューニングに手を出す前に、まずプロンプトの改善を徹底してください。
- より良いシステムプロンプト
- 少数ショットの例
- ツールの説明
- より良いモデル
- 構造化出力 / Pydantic
- RAG
- …その後にファインチューニング
ファインチューニングが有効な場合
- 特定の形式やスタイル— 独自のYAML出力言語
- 狭い専門領域— 医療、法律、コードレビュー
- レイテンシー— 短いプロンプト（少数ショットなし）により推論が高速化
- コスト— 短いプロンプトにより、課金対象のトークン数が減少
- 一貫したペルソナ— キャラクターの話し方、ブランドのトーン
ファインチューニングが逆効果になる場合
- 事実を教える— RAGのほうが適しています。ファインチューニングでは事実を忘れてしまいます
- 一般的な推論— 最先端モデルはすでに優れています
- 頻繁な更新— 再トレーニングには時間がかかります
- 小規模なデータセット— 100例未満では、ほとんど効果がありません
クローズドモデルのファインチューニング
OpenAIとAnthropicは、どちらもファインチューニングAPIを提供しています。
# OpenAI:
client.fine_tuning.jobs.create(
training_file='file-abc',
model='gpt-4o-mini-2024-07-18'
)オープンモデルのファインチューニング
Llama、Mistral、Qwenでは、すべてを自分で制御できます。ツールは次のとおりです。
- Unsloth— 最も高速で、VRAMの使用量が少ない
- Axolotl— 設定駆動で、包括的
- LLaMA-Factory— 中国系チームによる代替ツール
- HuggingFace TRL— 公式で柔軟
フルファインチューニングとPEFT
アプローチは2つあります。
- フル— すべての重みを更新します。コストが高く、大容量のVRAMが必要です。
- PEFT / LoRA— 小さなアダプターレイヤーを学習します。コストは100分の1で、多くのタスクでは同程度の品質が得られます。
ファインチューニングのコスト（OpenAI）
概算（2025年半ば時点）:
- 学習：1,000トークンあたり0.003ドル
- ファインチューニング済みモデルでの推論：ベースモデルよりやや高価
- 数万件の例：学習コストの合計は20～200ドル
ファインチューニングのコスト（セルフホスト）
Lambda Labsでは、H100を8基使う1時間の料金は約100ドルです。10,000サンプルを使ったLlama 70BのLoRAは、合計で約50～150ドルです。
データ量の目安
- 50例— スタイルや形式にのみ有効
- 500例— 意味のある改善
- 5,000例以上— 大幅な新しい能力
- 50,000例以上— データセットの品質と比較すると、効果が次第に小さくなる
データはどこから来るのか
- 本番環境のトレース（修正内容を含む）
- より強力なモデルによる合成データ生成
- 人手によるラベリング
- 公開データセット
ファインチューニングとRAGとプロンプトの選択
| 目的 | 最適なアプローチ |
|---|---|
| 新しい事実 | RAG |
| 新しい形式 | ファインチューニング（または強力なプロンプト） |
| 新しいスタイル | ファインチューニング |
| より良い推論 | より強力なモデル |
| 低コスト / 低レイテンシー | 小規模モデル + ファインチューニング |
評価の前後を比較する
必ずご自身の評価セットで、チューニング済みモデルとベースモデルをベンチマークしてください。チューニングによって性能が低下することもあるため、破棄する判断もできるようにしておきましょう。
ファインチューニングを行う最適な理由
ファインチューニングを行う最も適切な理由はどれでしょうか。
まとめ
まずはプロンプトを試し、形式・スタイル・ドメインに関する限定的な理由がある場合にのみファインチューニングを行います。コスト削減にはPEFT/LoRAを使用します。必ず実施前と実施後に評価してください。
AI チューターと学ぶ AI Agents — 無料
ブラウザでリアルコードを書いて実行し、24/7 の AI チューターから瞬時にサポートを受け、ウェブまたはアプリで続きから学習できます。
- コース
- 60
- レッスン
- 239
よくある質問
「プロンプトよりファインチューニングが有効な場合」レッスンは無料ですか？
はい。「プロンプトよりファインチューニングが有効な場合」の完全なテキストはこのウェブで無料で読めます。インタラクティブに演習し（組み込みコードエディタと24時間対応のAIチューター）、AI Agentsコースの残りをアンロックするには、CoddyKit PROにアップグレードしてください。 AI Agentsコースには全4レッスンが含まれています。
「プロンプトよりファインチューニングが有効な場合」で何を学びますか？
狭いタスク、独自フォーマット、プロンプトの短縮にはファインチューニングを使います — 新しい事実を教えるためではありません。 ブラウザで直接実行するハンズオンコードでAI Agentsを演習し、24時間対応のAIチューターがレッスンを進める中での質問に答えます。
AI Agentsを始めるのに経験は必要ですか？
事前経験は必要ありません。CoddyKitのAI Agentsは初級者から上級者向けに構成されているため、ここから始めるか最初から始めて、自分のペースで進むことができます。 これはレッスン1/4です。
「プロンプトよりファインチューニングが有効な場合」レッスンにはどのくらい時間がかかりますか？
ほとんどのCoddyKitレッスンは約5～10分かかります。各レッスンはコンパクトでインタラクティブなので、着実に進歩し、ウェブとアプリ全体で正確に前回の場所から再開できます。
このAI Agentsレッスンでコードを書いて実行できますか？
はい。すべてのAI Agentsレッスンに組み込みコードエディタが含まれているため、ブラウザでリアルコードを書いて実行し、即座のAIフィードバックを取得できます。ローカル設定は不要です。
このコースのすべてのレッスン
- プロンプトよりファインチューニングが有効な場合
- データ収集：軌跡とトレースの再生
- コスト効率の高いチューニングのためのLoRAとQLoRA
- チューニング済みモデルとベースモデルの評価