รูปแบบสถาปัตยกรรมระบบปัญญาประดิษฐ์

ระบบปัญญาประดิษฐ์สำหรับใช้งานจริงมีมากกว่าไฟล์โมเดลมาก ซึ่งรวมถึงกระบวนการข้อมูล คลังฟีเจอร์ โครงสร้างพื้นฐานสำหรับให้บริการ และการตรวจติดตาม รูปแบบสถาปัตยกรรม คือพิมพ์เขียวที่ผ่านการพิสูจน์แล้วสำหรับประกอบส่วนเหล่านี้ให้ทำงานร่วมกันได้อย่างน่าเชื่อถือ

ระบบปัญญาประดิษฐ์มักต้องการทั้งสองแบบ:

• การประมวลผลแบบ ชุด เพื่อให้ได้ผลลัพธ์ที่แม่นยำและครอบคลุมจากข้อมูลย้อนหลัง
• การประมวลผลแบบ เรียลไทม์ เพื่อให้ได้ผลลัพธ์ใหม่สดและมีเวลาแฝงต่ำจากเหตุการณ์ใหม่

การทำให้สองแนวทางนี้ทำงานร่วมกันเป็นความท้าทายด้านการออกแบบที่พบอยู่เสมอ

สถาปัตยกรรมแลมบ์ดา แก้ปัญหานี้ด้วยสองชั้นที่ทำงานขนานกัน ได้แก่ ชั้นประมวลผลแบบชุด ซึ่งคำนวณมุมมองที่แม่นยำใหม่จากข้อมูลทั้งหมด และ ชั้นความเร็ว ซึ่งจัดการข้อมูลล่าสุดด้วยเวลาแฝงต่ำ จากนั้นชั้นให้บริการจะรวมทั้งสองส่วนสำหรับคำสืบค้น

ชั้นประมวลผลแบบชุด จะประมวลผลชุดข้อมูลทั้งหมดใหม่เป็นระยะ เพื่อสร้างผลลัพธ์ที่ถูกต้องและใช้อ้างอิงได้ เช่น การคำนวณฟีเจอร์ใหม่ทุกคืน ชั้นนี้มีความแม่นยำแต่มีเวลาแฝงสูง จึงไม่สามารถสะท้อนเหตุการณ์ที่เกิดขึ้นในช่วงไม่กี่วินาทีล่าสุดได้

ชั้นความเร็ว ประมวลผลข้อมูลแบบสตรีมเกือบเรียลไทม์เพื่อเติมช่วงเวลานับจากการทำงานแบบชุดครั้งล่าสุด โดยยอมลดความแม่นยำบางส่วนเพื่อแลกกับความใหม่ และผลลัพธ์ของชั้นนี้จะถูกแทนที่ในภายหลังด้วยผลลัพธ์จากการทำงานแบบชุดครั้งถัดไป

คลังฟีเจอร์ คือระบบส่วนกลางสำหรับจัดการฟีเจอร์ของการเรียนรู้ของเครื่อง ระบบนี้แก้ปัญหาสำคัญประการหนึ่ง นั่นคือการฝึกและการให้บริการต้องใช้คำจำกัดความของฟีเจอร์ เดียวกัน มิฉะนั้นโมเดลจะเห็นอินพุตในระบบจริงแตกต่างจากข้อมูลที่ใช้ฝึก (ความคลาดเคลื่อนระหว่างการฝึกกับการให้บริการ)

คลังออฟไลน์ เก็บค่าฟีเจอร์ย้อนหลังจำนวนมาก โดยทั่วไปอยู่ในรูปไฟล์พาร์เกต์ในทะเลสาบข้อมูลหรือคลังข้อมูล คลังนี้รองรับการฝึกและการให้คะแนนแบบชุด ซึ่งปริมาณงานสำคัญกว่าเวลาแฝง

คลังออนไลน์ เก็บค่าฟีเจอร์ล่าสุดไว้ในฐานข้อมูลที่มีเวลาแฝงต่ำ เช่น Redis ขณะให้บริการ โมเดลจะดึงฟีเจอร์จากที่นี่ภายในระดับมิลลิวินาที โดยใช้คำจำกัดความเดียวกับคลังออฟไลน์

คลังฟีเจอร์รับประกันว่าฟีเจอร์ที่คำนวณเพื่อการฝึก (ออฟไลน์) ตรงกับสิ่งที่ระบบให้บริการอ่าน (ออนไลน์) ความสอดคล้องนี้กำจัดแหล่งสำคัญของข้อบกพร่องเงียบในระบบจริง และเป็นคุณค่าหลักของคลังฟีเจอร์

ก่อนจะไว้วางใจโมเดลใหม่ในระบบจริง ให้เรียกใช้โมเดลนั้นใน โหมดเงา: โมเดลจะได้รับทราฟฟิกจริงและสร้างผลคาดการณ์ แต่ผลคาดการณ์เหล่านั้นจะถูกบันทึกไว้ ไม่ได้นำไปให้ผู้ใช้ คุณสามารถเปรียบเทียบผลกับโมเดลปัจจุบันได้โดยไม่มีความเสี่ยงต่อผู้ใช้

เมื่อโหมดเงาแสดงให้เห็นว่าโมเดลใหม่มีความแม่นยำและเสถียรกับทราฟฟิกจริงแล้ว คุณก็ เลื่อนขั้น โมเดลนั้น ซึ่งมักทำผ่านการทยอยเปิดใช้งานแบบแคนารี โหมดเงาร่วมกับแคนารีจึงเป็นเส้นทางแบบค่อยเป็นค่อยไปที่ปลอดภัย จากโมเดลที่ฝึกแล้วไปสู่ทราฟฟิกในระบบจริงทั้งหมด

ทดสอบความรู้เกี่ยวกับสถาปัตยกรรมของคุณ

คุณได้เรียนรู้รูปแบบสถาปัตยกรรมระบบปัญญาประดิษฐ์:

• สถาปัตยกรรมแลมบ์ดา: ชั้นประมวลผลแบบชุด (แม่นยำ) บวกกับชั้นความเร็ว (ใหม่สด)
• คลังฟีเจอร์: พาร์เกต์ออฟไลน์สำหรับการฝึก Redis ออนไลน์สำหรับการให้บริการ และคำจำกัดความที่สอดคล้องกัน
• โหมดเงา ตรวจสอบโมเดลใหม่ด้วยทราฟฟิกจริงก่อนเลื่อนขั้น