CKKS สำหรับเลขคณิตโดยประมาณและแมชชีนเลิร์นนิง

BGV/BFV ทำงานกับจำนวนเต็ม (เลขคณิตแบบแม่นยำ) แต่การเรียนรู้ของเครื่องใช้ตัวเลขจุดลอยตัว (เลขคณิตโดยประมาณ) CKKS (Cheon-Kim-Kim-Song, 2017) เข้ารหัสจำนวนจริงและจำนวนเชิงซ้อน พร้อมยอมให้สูญเสียความแม่นยำได้อย่างควบคุม จึงเหมาะอย่างยิ่งสำหรับการอนุมานด้วยการเรียนรู้ของเครื่องและการวิเคราะห์ข้อมูล

CKKS ถือว่าสัญญาณรบกวนเป็นส่วนหนึ่งของความแม่นยำในการเข้ารหัส แทนที่จะกำจัดสัญญาณรบกวนด้วยการแก้ไขข้อผิดพลาด CKKS มองผลลัพธ์เป็นค่าประมาณที่มีขอบเขตความแม่นยำรับประกันได้ ข้อแลกเปลี่ยนนี้ทำให้ HE มีประสิทธิภาพสูงขึ้นมากสำหรับการคำนวณค่าต่อเนื่อง

CKKS เข้ารหัสเวกเตอร์ของจำนวนเชิงซ้อนเป็นพหุนาม: เวกเตอร์ (z_0, ..., z_{n/2-1}) ถูกแปลงผ่าน FFT ผกผันเป็นพหุนามใน R ตัวคูณมาตราส่วน Δ (เช่น 2^40) ใช้แปลงค่าจุดลอยตัวเป็นจำนวนเต็ม มีช่องจำนวนจริง n/2 ช่องต่อข้อความเข้ารหัสหนึ่งชุด

หลังการคูณ ตัวคูณมาตราส่วนจะเพิ่มเป็นสองเท่า: Δ^2 CKKS จึงมีการดำเนินการปรับมาตราส่วนใหม่ โดยหารด้วย Δ เพื่อคืนค่ามาตราส่วนเดียว การดำเนินการนี้ยังลดระดับมอดูลัสของข้อความเข้ารหัสด้วย (คล้ายการเปลี่ยนมอดูลัสของ BGV) ทำให้ข้อความเข้ารหัสยังจัดการได้

การคูณแต่ละครั้งใช้ระดับมอดูลัสหนึ่งระดับและลดความแม่นยำลงประมาณ log2(Δ) บิต สำหรับวงจรที่มีความลึก L และตัวคูณมาตราส่วน Δ = 2^40 ความแม่นยำที่สูญเสียทั้งหมดประมาณ L*40 บิต ควรเลือกมอดูลัสเริ่มต้น Q ให้มีขนาดใหญ่พอรองรับงบประมาณความแม่นยำนี้

ชั้นเชิงเส้น (การคูณเมทริกซ์กับเวกเตอร์): มีประสิทธิภาพ โดยใช้การหมุนและการสะสม ฟังก์ชันกระตุ้น (ReLU, sigmoid): จำเป็นต้องใช้การประมาณด้วยพหุนาม ReLU: ประมาณด้วยพหุนามเชบีเชฟดีกรี 7 การสูญเสียความแม่นยำ: ประมาณ 0.1-1% เมื่อเทียบกับการอนุมานบนข้อความธรรมดา

โรงพยาบาลเข้ารหัสข้อมูลผู้ป่วยด้วยกุญแจสาธารณะ CKKS ของโรงพยาบาล คลาวด์เรียกใช้โครงข่ายประสาทสำหรับการวินิจฉัยกับข้อมูลที่เข้ารหัสโดยใช้การดำเนินการของ CKKS จากนั้นส่งผลการทำนายที่เข้ารหัสกลับมา โรงพยาบาลถอดรหัสด้วยกุญแจส่วนตัว คลาวด์จะไม่เห็นข้อมูลผู้ป่วยหรือผลการวินิจฉัยในรูปข้อความธรรมดา

คำแนะนำของ HEAAN/OpenFHE: n=2^15 (32768) สำหรับวงจรการเรียนรู้ของเครื่องเชิงลึก สายโซ่มอดูลัส: Q เริ่มต้นประมาณ 2^1500 สำหรับการคูณ 30 ระดับที่ Δ=2^50 ความปลอดภัย: 128 บิต โดยสมมติว่า CKKS ที่ใช้พารามิเตอร์เหล่านี้ยากเทียบเท่ากับ RLWE หน่วยความจำ: ข้อความเข้ารหัสประมาณ 1 MB

การบูตสแตรปของ CKKS (Cheon และคณะ, 2018) ประเมินการลดแบบมอดูลาร์ด้วยการคำนวณแบบโฮโมมอร์ฟิกเพื่อรีเฟรชข้อความเข้ารหัส ความซับซ้อนอยู่ที่การประเมินฟังก์ชันไซน์ (ผ่านการประมาณด้วยพหุนาม) บนจำนวนเชิงซ้อน ช่วยให้วงจรมีความลึกไม่จำกัด โดยใช้เวลาประมาณ 30 วินาทีต่อการบูตสแตรปหนึ่งครั้ง

BFV: จำนวนเต็มแบบแม่นยำ ข้อความธรรมดาจำนวนเต็ม ไม่มีการสูญเสียความแม่นยำ CKKS: จำนวนจริง/จำนวนเชิงซ้อนแบบประมาณ ข้อความธรรมดาจุดลอยตัว ความแม่นยำลดลงตามความลึก ใช้ BFV สำหรับ: ฐานข้อมูล การสืบค้น และการคำนวณที่ต้องการความแม่นยำ ใช้ CKKS สำหรับ: การเรียนรู้ของเครื่อง สถิติ และการคำนวณทางวิทยาศาสตร์

HEAAN (CKKS ดั้งเดิม, มหาวิทยาลัยแห่งชาติโซล) Microsoft SEAL (CKKS + BFV) OpenFHE (CKKS + BGV + BFV) Concrete-ML (Zama.ai ห่อหุ้ม OpenFHE สำหรับแบบจำลอง scikit-learn และ PyTorch) TF-HE (การทดลองผสานรวม TensorFlow กับ HE)

เหตุใดจึงนิยมใช้ CKKS มากกว่า BFV สำหรับการอนุมานด้วยการเรียนรู้ของเครื่อง

CKKS รองรับเลขคณิตของจำนวนจริงแบบประมาณ จึงเหมาะสำหรับการอนุมานด้วยการเรียนรู้ของเครื่องและการคำนวณสถิติบนข้อมูลที่เข้ารหัส การปรับมาตราส่วนใหม่ช่วยจัดการตัวคูณมาตราส่วน ส่วนการประมาณด้วยพหุนามจะใช้แทนฟังก์ชันกระตุ้น ถัดไป: วิทยาการเข้ารหัสหลังยุคควอนตัม — อัลกอริทึมของ Shor และ Grover