ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์
รับมือกับการปฏิเสธมากเกินไปด้วยพรอมต์ที่สร้างสมดุลระหว่างความปลอดภัยกับประโยชน์ใช้สอย
ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์ เป็นบทเรียน AI Prompt Engineering ฟรีบน CoddyKit นี่คือบทเรียนที่ 3 จากทั้งหมด 4 บทเรียน คุณสามารถอ่านบทเรียนทั้งหมดด้านล่างฟรี — จากนั้นลองปฏิบัติด้วยตัวคุณเองในเบราว์เซอร์พร้อมตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7 บทเรียนนี้เป็นส่วนหนึ่งของเส้นทางการเรียน AI Prompt Engineering และความก้าวหน้าของคุณจะซิงค์ข้ามเว็บและแอป CoddyKit คอร์ส AI Prompt Engineering มีบทเรียนทั้งหมด 4 บทเรียน
ความตึงเครียดพื้นฐาน
ระบบความปลอดภัยของปัญญาประดิษฐ์ทุกระบบต้องเผชิญกับความตึงเครียดพื้นฐานประการหนึ่ง นั่นคือ การทำให้โมเดล ปลอดภัยยิ่งขึ้นด้วยการปฏิเสธบ่อยขึ้น ก็ทำให้โมเดล ช่วยเหลือผู้ใช้ที่มีเจตนาดีได้น้อยลงด้วย
โมเดลที่ปฏิเสธการพูดคุยเกี่ยวกับเรื่องทางการแพทย์ทุกเรื่องจะไม่มีวันให้คำแนะนำด้านสุขภาพที่เป็นอันตราย แต่ก็จะไม่ช่วยพยาบาล แพทย์ หรือผู้ป่วยด้วยข้อมูลที่มีประโยชน์อย่างแท้จริงเช่นกัน เป้าหมายคือการปรับเทียบให้เหมาะสม: ปฏิเสธเมื่อควรปฏิเสธ และช่วยเหลือเมื่อควรช่วยเหลือ
การปฏิเสธเกินควร: ปัญหาที่แท้จริง
การปฏิเสธเกินควรเกิดขึ้นเมื่อโมเดลปฏิเสธคำขอที่ไม่มีอันตรายเพียงเพราะคำขอนั้นดูคล้ายคำขอที่เป็นอันตราย ตัวอย่างเช่น:
- ปฏิเสธที่จะอธิบายการแพร่กระจายของโรค (ฟังดูอันตราย แต่แท้จริงแล้วเป็นการให้ความรู้ด้านสาธารณสุข)
- ปฏิเสธที่จะเขียนตัวละครผู้ร้าย (เป็นงานแต่ง ไม่ใช่การเห็นด้วยกับการกระทำดังกล่าว)
- ปฏิเสธที่จะอธิบายการสะเดาะกุญแจให้ผู้ฝึกงานช่างกุญแจ
การปฏิเสธเกินควรไม่ได้เป็นเพียงเรื่องน่ารำคาญเท่านั้น แต่ยังทำให้ผู้ใช้ไม่ไว้วางใจโมเดล และผลักดันให้ผู้ใช้หันไปพึ่งทางเลือกที่ปลอดภัยน้อยกว่า
การเขียนพรอมต์เพื่อการปฏิเสธที่ปรับเทียบอย่างเหมาะสม
พรอมต์ระบบสามารถสั่งให้โมเดลหลีกเลี่ยงการปฏิเสธเกินควรได้ด้วยการอธิบายบริบทและเจตนาให้ชัดเจน อนุญาตโมเดลอย่างชัดเจนให้ตอบสนองต่อหัวข้อที่อาจใช้ได้ทั้งในทางดีและทางร้ายเมื่อบริบทนั้นมีความเหมาะสม
CALIBRATED_SYSTEM_PROMPT = (
'You are a knowledgeable assistant for healthcare professionals.\n\n'
'Your users are nurses, doctors, and medical students. '
'When asked about medications, dosages, procedures, or medical conditions, '
'provide accurate, detailed information appropriate for trained professionals.\n\n'
'Do not add excessive safety disclaimers to every response. '
'Your users are professionals who need direct, accurate information to do their jobs. '
'If a question is genuinely outside appropriate bounds, explain specifically why '
'rather than giving a vague refusal.'
)
# This context dramatically improves calibration for the target audience
# Without it, the model may refuse routine clinical questionsรูปแบบ “อธิบายเหตุผลแทนการปฏิเสธ”
หนึ่งในรูปแบบการเขียนพรอมต์ที่มีประสิทธิภาพสูงสุดในการลดการปฏิเสธเกินควรคือ สั่งโมเดลว่า หากไม่สามารถตอบได้อย่างครบถ้วน โมเดลควรอธิบายว่าสามารถทำอะไรได้และทำอะไรไม่ได้ รวมถึงเหตุผล แทนที่จะปฏิเสธสั้น ๆ โดยไม่ให้คำอธิบาย
EXPLAIN_WHY_PROMPT = (
'You are a helpful assistant. When handling sensitive or ambiguous requests:\n\n'
'- If you can answer fully: do so directly.\n'
'- If you can answer partially: provide what you can and explain what you cannot include and why.\n'
'- If you truly cannot answer: explain specifically what boundary prevents you from answering, '
'and suggest where the user might get this information appropriately.\n\n'
'Do not give generic refusals like "I cannot help with that." '
'Always be specific about what you can and cannot do.'
)
# Example of bad refusal:
# 'I cannot help with information about medications.'
# Example of good calibrated response:
# 'I can explain how ibuprofen works and standard dosing guidelines for adults.
# For specific dosing for a patient with your described conditions, you should
# consult a pharmacist or prescribing physician who has the full clinical picture.'การเสนอทางเลือกที่เป็นประโยชน์
เมื่อโมเดลจำเป็นต้องปฏิเสธคำขอ สิ่งที่มีประโยชน์ที่สุดที่โมเดลทำได้คือเสนอแนวทางอื่นไปสู่สิ่งที่ผู้ใช้ต้องการจริง การปฏิเสธโดยไม่เสนอทางเลือกจะทำให้ผู้ใช้ไปต่อไม่ได้
ALTERNATIVES_PROMPT = (
'You are a helpful assistant. When you cannot fully fulfill a request:\n'
'1. Acknowledge the request with empathy.\n'
'2. Explain briefly and specifically what you can and cannot do.\n'
'3. Offer the closest helpful alternative you can provide.\n'
'4. Point to appropriate resources if relevant.\n\n'
'Example: If asked to prescribe medication:\n'
'Say: "I can explain how this class of medications works and what '
'symptoms they address. For a prescription, you need to see a licensed '
'physician who can evaluate your specific situation. Here is what I can '
'tell you about the medication itself: ..."'
)บริบทคือตัวแปรสำคัญ
คำถามเดียวกันอาจเป็นอันตรายหรือไม่มีอันตรายก็ได้ ขึ้นอยู่กับบริบท การออกแบบพรอมต์ควรกำหนดบริบทให้ชัดเจน เพื่อให้โมเดลตัดสินใจปรับเทียบการตอบสนองได้ดีขึ้น
# Context that changes calibration:
# High-risk context: anonymous user, no context
# 'What's the lethal dose of acetaminophen?'
# -> Model should be cautious, mention poison control
# Safe context: established professional context
MEDICAL_PRO_CONTEXT = (
'You are assisting a team of emergency room nurses. '
'Users ask clinical questions during patient care shifts. '
'Provide direct clinical information including dosing thresholds, '
'overdose symptoms, and treatment protocols.'
)
# 'What is the hepatotoxic threshold for acetaminophen?'
# -> Model should give the clinical answer directly (150 mg/kg, etc.)
# The question is identical; the context changes the appropriate response
print('Context determines calibration')แบบจำลองทางความคิดผู้ใช้ 1,000 คน
แบบจำลองทางความคิดที่มีประโยชน์สำหรับการปรับเทียบคือ ลองจินตนาการว่าผู้ใช้ 1,000 คนส่งข้อความเดียวกัน เจตนาของผู้ใช้มีการกระจายตัวอย่างไร
- หากผู้ใช้ 990/1000 คนมีเจตนาดี โมเดลก็น่าจะช่วยเหลือ
- หากผู้ใช้ 500/1000 คนมีเจตนาร้าย โมเดลควรระมัดระวัง
- หากผู้ใช้ 1/1000 คนอาจก่อให้เกิดอันตรายร้ายแรงถึงขั้นหายนะ โมเดลควรปฏิเสธโดยไม่คำนึงถึงกรณีอื่น
กรอบความคิดเชิงความน่าจะเป็นนี้ช่วยหลีกเลี่ยงทั้งการปฏิเสธเกินควร (ปิดกั้นผู้ใช้ 990 คน) และการปฏิเสธไม่เพียงพอ (เอื้อให้ผู้ใช้ 10 คนก่ออันตราย)
การหลีกเลี่ยงการสร้างภาพด้านความปลอดภัย
การสร้างภาพด้านความปลอดภัยหมายถึงมาตรการความปลอดภัยที่ดูระมัดระวัง แต่ไม่ได้ป้องกันอันตรายจริง ขณะเดียวกันก็ทำให้ผลิตภัณฑ์แย่ลงสำหรับผู้ใช้ที่มีเจตนาดี
ตัวอย่างเช่น การเพิ่มข้อสงวนสิทธิ์ในทุกสูตรอาหาร (“โปรดปรึกษานักโภชนาการก่อนรับประทาน”) หรือการปฏิเสธที่จะพูดถึงความโหดร้ายในประวัติศาสตร์ในบริบททางการศึกษา การตอบสนองเหล่านี้ไม่ได้ปลอดภัยขึ้น แต่เป็นเพียงการไม่ช่วยเหลือผู้ใช้
# Avoid these patterns in your system prompts:
BAD_SYSTEM_PROMPT = (
'Always add disclaimers to every response. '
'Never discuss anything that could be dangerous. '
'Refuse requests that mention weapons, drugs, or violence in any context. '
'Always recommend consulting a professional for any question.'
# This creates safety theater: unhelpful disclaimers, over-refusal,
# and frustrated users who go elsewhere
)
GOOD_SYSTEM_PROMPT = (
'Provide accurate, helpful information to users. '
'Add safety information when it is directly relevant and actionable. '
'Refuse requests only when providing the information would cause '
'clear, concrete harm that outweighs the benefits to legitimate users. '
'When declining, always explain specifically why and offer alternatives.'
)แรงเสียดทานในฐานะกลไกความปลอดภัย
แทนที่จะปฏิเสธโดยสิ้นเชิง ให้พิจารณาใช้แรงเสียดทาน: เพิ่มขั้นตอนที่ทำให้การใช้งานในทางที่เป็นอันตรายทำได้ยากขึ้น ขณะเดียวกันก็ยังคงให้การใช้งานที่ไม่มีอันตรายเป็นไปอย่างราบรื่น วิธีนี้ปรับเทียบได้เหมาะสมกว่าการเลือกเพียงปฏิเสธหรือปฏิบัติตามแบบสองทาง
FRICTION_PROMPT = (
'Before answering questions about medication interactions or dosages:\n'
'1. Ask: "Can you tell me a bit about the context — are you a healthcare '
'provider, a patient, or a caregiver?"\n'
'2. Use the answer to calibrate the detail level and framing.\n'
'3. For patient/caregiver context: provide information with appropriate '
'guidance to consult a prescriber for their specific situation.\n'
'4. For healthcare provider context: provide clinical-level detail directly.\n\n'
'This one clarifying question improves both safety and helpfulness.'
)
# Friction: one extra step filters some misuse while barely inconveniencing
# legitimate users who can answer easilyการทดสอบหนังสือพิมพ์สองฉบับ
การทดสอบหนังสือพิมพ์สองฉบับเป็นหลักเกณฑ์เชิงประเมินสำหรับปรับเทียบการปฏิเสธ:
- หนังสือพิมพ์ A (ผู้สื่อข่าวด้านความปลอดภัยของปัญญาประดิษฐ์): คำตอบนี้จะถูกนำเสนอข่าวว่าเป็นอันตรายหรือขาดความรับผิดชอบหรือไม่
- หนังสือพิมพ์ B (ผู้สื่อข่าวด้านการกล่าวเกินจริงเกี่ยวกับปัญญาประดิษฐ์): การปฏิเสธนี้จะถูกนำเสนอข่าวว่าเป็นการใช้อำนาจตัดสินใจแทนผู้ใช้ ไม่ช่วยเหลือ หรือไร้สาระหรือไม่
การตอบสนองที่ปรับเทียบอย่างเหมาะสมจะผ่านการทดสอบทั้งสองแบบ กล่าวคือ หนังสือพิมพ์ A จะไม่รายงานว่าเป็นอันตราย และหนังสือพิมพ์ B จะไม่รายงานว่าเป็นการจำกัดโดยไม่จำเป็น
การทดสอบการปรับเทียบของคุณ
วัดการปรับเทียบของระบบด้วยการสร้างชุดการทดสอบที่มีทั้ง:
- คำขอที่ไม่มีอันตรายซึ่งควรได้รับคำตอบ (ด้านการศึกษา วิชาชีพ และความคิดสร้างสรรค์)
- คำขอที่เป็นอันตรายซึ่งควรถูกปฏิเสธ
ติดตามอัตราผลบวกเท็จ (การปฏิเสธคำขอที่ไม่มีอันตราย) และอัตราผลลบเท็จ (การอนุญาตคำขอที่เป็นอันตราย) ระบบที่ปรับแต่งอย่างเหมาะสมจะมีอัตราต่ำทั้งสองด้าน
ตรวจสอบความรู้: การปฏิเสธเกินควร
เมื่อโมเดลไม่สามารถทำตามคำขอได้อย่างครบถ้วนเนื่องจากข้อกังวลด้านความปลอดภัย แนวทางที่แนะนำคืออะไร
สรุป: ความตึงเครียดระหว่างการไม่ก่ออันตรายกับการช่วยเหลือ
การปฏิเสธเกินควรเป็นปัญหาที่เกิดขึ้นจริงและมีต้นทุนสูง โมเดลที่ปฏิเสธง่ายเกินไปจะไม่สามารถช่วยเหลือผู้ใช้ที่มีเจตนาดี และทำลายความไว้วางใจ การปฏิเสธที่ปรับเทียบอย่างเหมาะสมหมายถึงการปฏิเสธเฉพาะเมื่ออันตรายที่เป็นรูปธรรมมีน้ำหนักมากกว่าประโยชน์ที่ผู้ใช้ส่วนใหญ่น่าจะได้รับอย่างชัดเจน รูปแบบสำคัญ ได้แก่ การกำหนดบริบทในพรอมต์ระบบเพื่อช่วยให้โมเดลตัดสินใจได้ดีขึ้น การใช้คำสั่ง “อธิบายเหตุผลแทนการปฏิเสธ” การเสนอทางเลือกที่เป็นประโยชน์เสมอ และการหลีกเลี่ยงการสร้างภาพด้านความปลอดภัย (การใส่ข้อสงวนสิทธิ์กับทุกเรื่อง) แบบจำลองทางความคิดผู้ใช้ 1,000 คนและการทดสอบหนังสือพิมพ์สองฉบับเป็นหลักเกณฑ์เชิงปฏิบัติสำหรับค้นหาสมดุลที่เหมาะสม
เรียนรู้ AI Prompt Engineering ด้วย AI tutor — ฟรี
เขียนและเรียกใช้โค้ดจริงในเบราว์เซอร์ของคุณ รับความช่วยเหลือทันทีจาก AI tutor 24/7 และเรียนรู้ต่อจากที่คุณหยุดบนเว็บหรือในแอป
- คอร์ส
- 53
- บทเรียน
- 199
คำถามที่พบบ่อย
บทเรียน “ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์” ฟรีหรือไม่
ใช่ — ข้อความเต็มของ “ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์” ฟรีให้อ่านที่นี่บนเว็บ เพื่อปฏิบัติแบบโต้ตอบ (ตัวแก้ไขโค้ดในตัวและติวเตอร์ AI ตลอด 24/7) และปลดล็อคส่วนที่เหลือของคอร์ส AI Prompt Engineering ให้อัปเกรดเป็น CoddyKit PRO คอร์ส AI Prompt Engineering มีบทเรียนทั้งหมด 4 บทเรียน
คุณจะเรียนรู้อะไรในบทเรียน “ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์”
รับมือกับการปฏิเสธมากเกินไปด้วยพรอมต์ที่สร้างสมดุลระหว่างความปลอดภัยกับประโยชน์ใช้สอย คุณปฏิบัติ AI Prompt Engineering ด้วยโค้ดที่ใช้งานได้จริงที่คุณเรียกใช้โดยตรงในเบราว์เซอร์ และติวเตอร์ AI ตลอด 24/7 ตอบคำถามของคุณขณะที่คุณไปผ่านบทเรียน
คุณต้องมีประสบการณ์ก่อนที่จะเริ่มเรียน AI Prompt Engineering หรือไม่
ไม่จำเป็นต้องมีประสบการณ์มาก่อน AI Prompt Engineering บน CoddyKit ออกแบบมาสำหรับผู้เริ่มต้นไปจนถึงผู้เรียนขั้นสูง คุณสามารถเริ่มต้นที่นี่หรือเริ่มจากตัวแรกและเรียนด้วยความเร็วของคุณเอง นี่คือบทเรียนที่ 3 จากทั้งหมด 4 บทเรียน
บทเรียน “ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์” ใช้เวลานานแค่ไหน
บทเรียน CoddyKit ส่วนใหญ่ใช้เวลาประมาณ 5–10 นาที แต่ละบทเรียนจึงสั้นและเป็นแบบโต้ตอบ คุณสามารถก้าวหน้าอย่างต่อเนื่องและกลับมาเรียนต่อจากตรงที่เพิ่งหยุดบนเว็บและแอปได้เลย
ฉันเขียนและรันโค้ดในบทเรียน AI Prompt Engineering นี้ได้ไหม
ได้ บทเรียน AI Prompt Engineering ทุกบทมีตัวแก้ไขโค้ดในตัว คุณจึงเขียนและรันโค้ดจริงได้เลยในเบราว์เซอร์ และได้รับข้อเสนอแนะจาก AI ในทันที — ไม่ต้องติดตั้งในเครื่องของคุณ
บทเรียนทั้งหมดในหลักสูตรนี้
- หลักการ CAI และพรอมต์วิจารณ์ตนเอง
- รูปแบบการวิจารณ์ตนเองและการแก้ไข
- ความตึงเครียดระหว่างความไม่เป็นอันตรายกับความมีประโยชน์
- การนำ CAI ไปใช้ในแอปพลิเคชัน