Veri Toplama: İzler ve İz Tekrarı

Ürün Veridir

Bir Aracı Yürütme İzi Nasıl Görünür

trajectory = {
    'task': 'Refactor the auth module',
    'messages': [
        {'role': 'system', 'content': '...'},
        {'role': 'user', 'content': 'Task...'},
        {'role': 'assistant', 'content': 'Plan...', 'tool_calls': [...]},
        {'role': 'tool', 'content': '...'},
        ...
    ],
    'outcome': 'success'
}

Üretim İzlerini Çıkarma

for trace in production_traces:
    if trace.outcome == 'success' and trace.user_feedback == 'thumbs_up':
        save_to_training_set(trace)

İzi Yeniden Oynatma

def replay(trace):
    messages = trace.messages[:1]   # just the initial user msg
    for expected_msg in trace.messages[1:]:
        actual = agent.step(messages)
        if actual.role == 'assistant':
            messages.append(actual)
        elif expected_msg.role == 'tool':
            messages.append(expected_msg)   # replay tool result

Yüksek Kaliteli İzleri Filtreleme

Büyük Modellerden Damıtma

for task in task_list:
    traj = big_model_agent.run(task)
    if traj.success:
        save_for_training(traj)

# Now fine-tune Llama 8B on the GPT-4o traces.

Kötü İzleri Ayıklama

İnce Ayar Biçimi

{"messages": [{"role": "system", "content": "..."}, {"role": "user", "content": "..."}, {"role": "assistant", "content": "..."}]}
{"messages": [...]}

Eğitim Verilerindeki Araç Çağrıları

{
  "messages": [
    {"role": "user", "content": "Weather in Paris?"},
    {"role": "assistant", "tool_calls": [{...}]},
    {"role": "tool", "tool_call_id": "...", "content": "{...}"},
    {"role": "assistant", "content": "It is 18C and sunny."}
  ]
}

Olumsuz Örnekler

preferences = [
    {'prompt': '...', 'chosen': good_response, 'rejected': bad_response}
]

Veri Kümesi Boyutu Hesaplayıcı

Veri Kümesini Sürümleme

İnsan Denetimli Düzenleme

En İyi İz Kaynağı

Özet