การประเมิน RAG (RAGAS, Recall@K)

สิ่งที่วัดไม่ได้ย่อมปรับปรุงไม่ได้

ตัวชี้วัดสำคัญสำหรับ RAG

รีคอล@K

def recall_at_k(eval_set, k=5):
    hits = 0
    for item in eval_set:
        retrieved = retriever(item['question'], k=k)
        if any(c.id in item['relevant_ids'] for c in retrieved):
            hits += 1
    return hits / len(eval_set)

ความแม่นยำ@K

def precision_at_k(eval_set, k=5):
    total_relevant = 0
    total_retrieved = 0
    for item in eval_set:
        retrieved = retriever(item['question'], k=k)
        total_relevant += sum(1 for c in retrieved if c.id in item['relevant_ids'])
        total_retrieved += k
    return total_relevant / total_retrieved

MRR (อันดับผกผันเฉลี่ย)

def mrr(eval_set, k=10):
    total = 0
    for item in eval_set:
        retrieved = retriever(item['question'], k=k)
        for rank, c in enumerate(retrieved, start=1):
            if c.id in item['relevant_ids']:
                total += 1 / rank
                break
    return total / len(eval_set)

ความสอดคล้องกับแหล่งข้อมูล (LLM ในฐานะผู้ตัดสิน)

judge_prompt = '''
Given the context and answer, identify each factual claim in the answer.
For each claim, judge whether the context supports it.
Return {claims: [{claim, supported: true/false}]}.
'''
result = judge_llm.invoke(judge_prompt.format(context=ctx, answer=ans))

ความเกี่ยวข้องของคำตอบ

เฟรมเวิร์ก RAGAS

# pip install ragas
from ragas import evaluate
from ragas.metrics import faithfulness, answer_relevancy, context_precision, context_recall

results = evaluate(
    dataset,            # HF dataset with question, contexts, answer, ground_truth
    metrics=[faithfulness, answer_relevancy, context_precision, context_recall]
)
print(results)

การสร้างชุดข้อมูลมาตรฐาน

ชุดประเมินสังเคราะห์

synth_prompt = 'Read this document and write 3 questions a user might ask, with answers from the doc:\n{doc}'
# Use as a starting point; humans curate later.
print(synth_prompt)

ชุดข้อมูลของ LangSmith และ Langfuse

อย่าปรับให้เหมาะกับตัวชี้วัดเดียวมากเกินไป

การทดสอบ A/B ในระบบจริง

คำจำกัดความของรีคอล@K

สรุปทบทวน