เหตุใดปัญญาประดิษฐ์จึงแต่งเรื่องขึ้นมาอย่างมั่นใจ

สิ่งที่ชวนระวังที่สุดเกี่ยวกับปัญญาประดิษฐ์คือ มันอาจผิดโดยสิ้นเชิงแม้ฟังดูมั่นใจอย่างเต็มที่ ไม่มีน้ำเสียงลังเล ไม่มีคำว่าอาจจะ มันกล่าวข้อเท็จจริงที่แต่งขึ้นอย่างราบรื่นไม่ต่างจากข้อเท็จจริงจริง

ความผิดพลาดที่ฟังดูมั่นใจเหล่านี้เรียกว่า ภาพหลอน การทำความเข้าใจว่าเหตุใดจึงเกิดขึ้นคือแนวป้องกันแรกของคุณจากการถูกหลอก

โปรดจำไว้ว่าปัญญาประดิษฐ์ทำงานอย่างไร มันคาดเดาคำที่มีแนวโน้มจะตามมาทีละคำ ปัญญาประดิษฐ์ไม่ได้ค้นหาข้อเท็จจริงจากฐานข้อมูล แต่มันกำลังสร้างข้อความที่ ฟังดูถูกต้อง

โดยส่วนใหญ่ การฟังดูถูกต้องและการถูกต้องจริงมักสอดคล้องกัน แต่บางครั้งประโยคที่ฟังดูเป็นธรรมชาติที่สุดก็เป็นเพียงประโยคเท็จ และปัญญาประดิษฐ์ไม่มีสัญญาณเตือนในตัวที่บอกว่าประโยคนั้นเป็นเท็จ

ปัญญาประดิษฐ์ไม่ได้รู้จริงว่าอะไรเป็นความจริง มันไม่มีการรับรู้และไม่มีเครื่องมือตรวจสอบข้อเท็จจริงอยู่ภายใน มันเพียงสร้างภาษาที่ฟังดูสมเหตุสมผล

ด้วยเหตุนี้ มันจึงสามารถแต่งสถิติ วันที่ หรือคำพูดอ้างอิงขึ้นมาได้อย่างมั่นใจเต็มที่ สำหรับปัญญาประดิษฐ์ คำโกหกที่ฟังดูน่าเชื่อถือกับข้อเท็จจริงดูเหมือนกัน ทั้งคู่เป็นเพียงรูปแบบคำที่มีแนวโน้มจะเกิดขึ้น

เมื่อปัญญาประดิษฐ์ไม่รู้อะไรบางอย่าง มันมักไม่บอกเช่นนั้น แต่กลับ เติมเต็มช่องว่าง ด้วยสิ่งที่เข้ากับรูปแบบของคำตอบ

หากขอข้อเท็จจริงเฉพาะทางที่มันไม่เคยเรียนรู้ แทนที่จะยอมรับว่าไม่รู้ มันอาจแต่งคำตอบที่ฟังดูสมเหตุสมผลขึ้นมาอย่างราบรื่น แนวโน้มการเติมช่องว่างนี่เองคือจุดกำเนิดของภาพหลอน

คุณขอคำพูดอ้างอิงจากหนังสือเล่มหนึ่งโดยเฉพาะ ปัญญาประดิษฐ์ให้คำพูดที่สละสลวยและเข้ากับเนื้อหา พร้อมระบุแหล่งที่มาอย่างแม่นยำ ฟังดูสมบูรณ์แบบ เว้นแต่ว่าคำพูดนั้นไม่มีอยู่จริง

ปัญญาประดิษฐ์สร้างบางสิ่งที่ ฟังดูเหมือนคำพูดอ้างอิงจากหนังสือเล่มนั้นขึ้นมา ไม่ได้มีเจตนาร้ายและไม่ได้รับรู้ เพียงจับคู่รูปแบบแล้วผิดอย่างมั่นใจ เหตุการณ์เช่นนี้เกิดขึ้นบ่อยกว่าที่ผู้เริ่มต้นคาดคิด

ภาพหลอนมักเกิดขึ้นกับสิ่งบางประเภท ได้แก่ ข้อเท็จจริงเฉพาะเจาะจง ตัวเลข วันที่ ชื่อ แหล่งข้อมูล และคำพูดอ้างอิง ยิ่งรายละเอียดแม่นยำและไม่เป็นที่รู้จักมากเท่าไร ความเสี่ยงก็ยิ่งสูงขึ้นเท่านั้น

คำอธิบายทั่วไปมักเชื่อถือได้ สิ่งที่ปัญญาประดิษฐ์มีแนวโน้มแต่งขึ้นอย่างมั่นใจมากที่สุดคือการอ้างอิงที่ตรงจุด สถิติที่แม่นยำ และชื่อเฉพาะทาง การรู้เรื่องนี้ช่วยให้คุณทราบว่าเมื่อใดควรระวังเป็นพิเศษ

แบบจำลองปัญญาประดิษฐ์เรียนรู้จากข้อมูลจนถึงช่วงเวลาหนึ่ง และอาจไม่รู้เหตุการณ์ล่าสุดเป็นอย่างดี เมื่อถูกถามเกี่ยวกับสิ่งใหม่ ปัญญาประดิษฐ์อาจคาดเดาแล้วนำเสนอสิ่งที่คาดเดานั้นราวกับเป็นข้อเท็จจริง

โปรดสงสัยคำตอบเกี่ยวกับ ข่าวล่าสุด ราคา หรือหัวข้อที่เปลี่ยนแปลงอย่างรวดเร็วเป็นพิเศษ ปัญญาประดิษฐ์อาจกำลังอธิบายโลกที่ไม่มีอยู่แล้วหรือไม่เคยมีอยู่จริงอย่างมั่นใจ

การรู้ว่าปัญญาประดิษฐ์ไม่ได้พยายามหลอกลวงคุณเป็นเรื่องที่ช่วยให้เข้าใจได้ง่ายขึ้น ปัญญาประดิษฐ์ไม่มีเจตนาใด ๆ ทั้งสิ้น ภาพหลอนเป็นผลข้างเคียงจากวิธีการทำงานของมัน ไม่ใช่การเลือกที่จะทำให้เข้าใจผิด

เรื่องนี้สำคัญเพราะหมายความว่าคุณแก้ปัญหาด้วยการขอให้ปัญญาประดิษฐ์พูดความจริงไม่ได้ ปัญญาประดิษฐ์คิดว่าตนกำลังช่วยเหลืออยู่แล้ว การป้องกันจึงต้องมาจาก คุณ

หากคุณเชื่อคำตอบที่ฟังดูมั่นใจทุกคำตอบโดยไม่ตรวจสอบ ในที่สุดคุณจะลงมือทำบางสิ่งที่เป็นเท็จ เช่น ใส่ข้อเท็จจริงที่ผิดลงในรายงาน ใช้แหล่งข้อมูลที่แต่งขึ้น หรือระบุวันที่ผิด

ทางแก้ไม่ใช่การหยุดใช้ปัญญาประดิษฐ์ แต่คือการใช้อย่างรอบคอบ ใช้ปัญญาประดิษฐ์ช่วยคิดและร่างเนื้อหา แล้ว ตรวจสอบข้อเท็จจริงที่เฉพาะเจาะจง ซึ่งสำคัญก่อนที่จะพึ่งพาข้อเท็จจริงเหล่านั้น

ยึดกรอบความคิดง่าย ๆ ไว้ว่า ปัญญาประดิษฐ์เป็นผู้ช่วยที่ฉลาดมากและรวดเร็ว ซึ่งบางครั้งก็ผิดอย่างมั่นใจ เชื่อถือปัญญาประดิษฐ์ในด้านแนวทาง แต่ตรวจสอบรายละเอียดซ้ำ

นี่ไม่ใช่ความหวาดระแวง แต่เป็นความเคลือบแคลงแบบเดียวกับที่คุณควรใช้กับแหล่งข้อมูลเพียงแหล่งเดียว การรู้ว่าภาพหลอนมีอยู่จริงก็ทำให้คุณนำหน้าผู้ใช้ส่วนใหญ่แล้ว

ขอสิ่งที่เฉพาะทางและเจาะจงจากปัญญาประดิษฐ์ เช่น สถิติที่แม่นยำหรือคำพูดอ้างอิงจากแหล่งข้อมูลที่ไม่ค่อยเป็นที่รู้จัก จากนั้นลองตรวจสอบสิ่งนั้นจากแหล่งอื่น

คุณอาจพบว่าข้อมูลนั้นถูกแต่งขึ้นมาอย่างมั่นใจ การเห็นภาพหลอนด้วยตนเองสักครั้งทำให้บทเรียนนี้ติดตรึงได้ดีกว่าการเพียงได้รับคำบอกเล่าว่ามันอาจเกิดขึ้น

ภาพหลอนคือ คำตอบที่แต่งขึ้นและฟังดูมั่นใจ ภาพหลอนเกิดขึ้นเพราะปัญญาประดิษฐ์คาดเดาคำที่ฟังดูสมเหตุสมผล และไม่มีความเข้าใจจริงว่าอะไรจริงหรือเท็จ จึงเติมช่องว่างแทนที่จะยอมรับว่าไม่รู้

ความเสี่ยงสูงที่สุดอยู่ที่ข้อเท็จจริงเฉพาะเจาะจง ตัวเลข คำพูดอ้างอิง แหล่งข้อมูล และเหตุการณ์ล่าสุด ปัญญาประดิษฐ์ไม่ได้โกหก เพราะไม่มีเจตนา การป้องกันอยู่ที่คุณ เชื่อถือแนวทาง แต่ตรวจสอบรายละเอียด