AI Agents · บทเรียน

การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี

ปล่อยพรอมต์และโมเดลใหม่ให้ผู้ใช้ 5% ของปริมาณการใช้งาน ตรวจดูตัวชี้วัด แล้วค่อย ๆ เพิ่มสัดส่วน ห้ามปล่อยทั้งหมดในครั้งเดียว

การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี เป็นบทเรียน AI Agents ฟรีบน CoddyKit นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน AI Agents และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส AI Agents มีบทเรียนทั้งหมด 4 บทเรียน

บางส่วนของบทเรียนนี้ยังไม่ได้รับการแปล และแสดงเป็นภาษาอังกฤษ

การนำเอเจนต์ไปใช้งานแตกต่างออกไป

การนำโค้ดแบบดั้งเดิมไปใช้งานมีความแน่นอน — การที่การทดสอบหน่วยผ่านหมายความว่าการเปลี่ยนแปลงนั้นปลอดภัย แต่การนำเอเจนต์ LLM ไปใช้งานนั้นไม่แน่นอน — แม้ใช้โค้ดเดียวกัน การเปลี่ยนพรอมต์หรือโมเดลก็อาจทำให้คุณภาพลดลงอย่างแนบเนียน

โปรดใช้กลยุทธ์การนำไปใช้งานที่ออกแบบมาเพื่อตรวจจับการถดถอยตั้งแต่เนิ่น ๆ

การนำไปใช้งานแบบน้ำเงิน-เขียว

สภาพแวดล้อมสองชุดที่เหมือนกัน:

สีน้ำเงิน — ระบบใช้งานจริงปัจจุบัน
สีเขียว — รุ่นใหม่

หลังจากทดสอบรุ่นสีเขียวแล้ว ให้สลับทราฟฟิกจาก 0% -> 100% ในขั้นตอนเดียว

การนำไปใช้งานแบบคานารี

ค่อย ๆ เปลี่ยนทราฟฟิกไปยังรุ่นใหม่:

5% -> เฝ้าดูตัวชี้วัด
20% -> เฝ้าดู
50%
100%

ย้อนกลับได้ทุกขั้นตอนหากตัวชี้วัดแย่ลง

สิ่งที่ควรเฝ้าดู

อัตราข้อผิดพลาด
เวลาแฝง p95
ค่าใช้จ่ายต่อคำขอ
สัญญาณความคิดเห็นของผู้ใช้ (อัตราส่วนการกดถูกใจ/ไม่ถูกใจ)
อัตราการผ่านการประเมินบนชุดข้อมูลเงาที่มาจากทราฟฟิกจริง

Routing With a Feature Flag

import random

def pick_agent_version(user_id):
    if launchdarkly.variation('use-v2', user_id, default=False):
        return v2
    if random.random() < canary_pct:
        return v2
    return v1

# Roll canary_pct from 0 to 1.0 gradually.

การทยอยเปิดใช้ต่อลูกค้าแต่ละราย

ทยอยเปิดใช้ให้ลูกค้าแต่ละรายใน SaaS แบบ B2B — เริ่มจากผู้ใช้ภายใน จากนั้นลูกค้าที่คุ้นเคย แล้วจึงเปิดให้ทุกคน:

if user.org_id in EARLY_ACCESS_ORGS:
    return v2
return v1

โหมดเงา

เรียกใช้รุ่นใหม่แบบ IN PARALLEL แต่ไม่ส่งผลลัพธ์ของรุ่นนั้นให้ผู้ใช้:

v1_result = run_v1(query)
async def shadow():
    v2_result = await run_v2(query)
    log_compare(v1_result, v2_result)
asyncio.create_task(shadow())
return v1_result

เล่นทราฟฟิกจริงซ้ำ

จับคำค้นจากระบบใช้งานจริงเก็บไว้ในบัฟเฟอร์ แล้วเล่นซ้ำทุกคืนบนรุ่นใหม่ เปรียบเทียบคุณภาพคำตอบก่อนเลื่อนรุ่นขึ้นใช้งาน

การทดสอบ A/B

สำหรับการทดลองคุณภาพที่ใช้เวลานาน ให้แบ่งทราฟฟิกแบบสุ่มและเปรียบเทียบตัวชี้วัดเชิงสถิติเป็นเวลาหลายสัปดาห์

การกำหนดรุ่นของพรอมต์

ปฏิบัติต่อพรอมต์เหมือนโค้ด — ตรึงรุ่นไว้ นำไปใช้งานควบคู่กับโมเดล และทยอยเปิดใช้ผ่านแฟล็ก:

PROMPTS = {
    'qa-v3': '...',
    'qa-v4': '...'
}
active = 'qa-v4' if feature_flag_on() else 'qa-v3'

การตรึงรุ่นโมเดล

ตรึงรุ่นโมเดล (gpt-4o-2024-08-06) เพื่อป้องกันไม่ให้การที่ผู้ให้บริการอัปเดตโมเดลเริ่มต้นเปลี่ยนพฤติกรรมโดยที่คุณไม่ทันสังเกตในชั่วข้ามคืน

การย้อนกลับโดยอัตโนมัติ

หากตัวชี้วัดข้ามเกณฑ์ที่กำหนด ให้ดึงรุ่นคานารีกลับเป็น 0% โดยอัตโนมัติและส่งการแจ้งเตือน:

if p95_latency_now > 1.5 * p95_latency_baseline:
    flag.set('canary_pct', 0)
    alert('Auto-rollback triggered')

จัดทำเอกสารสำหรับแต่ละรุ่น

บันทึกสำหรับแต่ละรุ่น:

สิ่งที่เปลี่ยนแปลง (พรอมต์ โมเดล การดึงข้อมูล)
ผลการประเมินก่อนและหลัง
ลำดับเวลาของคานารี
มีการย้อนกลับหรือไม่

เหตุใดจึงใช้คานารี

เหตุใดจึงใช้การนำเอเจนต์ไปใช้งานแบบคานารีแทนการเผยแพร่ในขั้นตอนเดียว

สรุปทบทวน

กำหนดทราฟฟิกด้วยแฟล็กคุณลักษณะ เพิ่มจาก 5% -> 100% เฝ้าดูข้อผิดพลาด / เวลาแฝง / ค่าใช้จ่าย / ความคิดเห็น และย้อนกลับอย่างรวดเร็วเมื่อจำเป็น เพิ่มโหมดเงาและการเล่นซ้ำเพื่อสร้างความมั่นใจ

คำถามที่พบบ่อย

บทเรียน “การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี” ฟรีหรือไม่

ใช่ — ข้อความเต็มของ “การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส AI Agents ให้อัปเกรดเป็น CoddyKit PRO คอร์ส AI Agents มีบทเรียนทั้งหมด 4 บทเรียน

คุณจะเรียนรู้อะไรในบทเรียน “การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี”

ปล่อยพรอมต์และโมเดลใหม่ให้ผู้ใช้ 5% ของปริมาณการใช้งาน ตรวจดูตัวชี้วัด แล้วค่อย ๆ เพิ่มสัดส่วน ห้ามปล่อยทั้งหมดในครั้งเดียว คุณปฏิบัติ AI Agents ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน

คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน AI Agents หรือไม่

ไม่จำเป็นต้องมีประสบการณ์มาก่อน AI Agents บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 4 จากทั้งหมด 4 บทเรียน

บทเรียน “การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี” ใช้เวลานานแค่ไหน

บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย

ฉันเขียนและรันโค้ดในบทเรียน AI Agents นี้ได้ไหม

ได้ บทเรียน AI Agents ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ

บทเรียนทั้งหมดในหลักสูตรนี้

การให้บริการเอเจนต์ผ่าน API
เวิร์กโฟลว์แบบไม่พร้อมกันและงานเบื้องหลัง
การจำกัดอัตราและการจัดการโควตา
การนำเอเจนต์ขึ้นระบบแบบบลู-กรีนและคานารี

← กลับไปที่ AI Agents