AI Prompt Engineering · 课时

提示中的安全与数据隐私

Q: 「提示中的安全与数据隐私」这节课中我会学到什么？

处理为敏感企业数据设计提示时的关键安全问题，并确保数据隐私 你通过在浏览器中直接运行的动手代码来练习 AI Prompt Engineering，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

处理为敏感企业数据设计提示时的关键安全问题，并确保数据隐私

提示中的安全与数据隐私 是 CoddyKit 上的免费 AI Prompt Engineering 课时。这是第 3 节课，共 3 节。你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。这是 AI Prompt Engineering 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 AI Prompt Engineering 课程共包含 3 节课。

企业提示词安全

在商业世界中，使用大语言模型（LLM）既拥有强大能力，也肩负重大责任。当您处理敏感的公司数据时，安全和隐私至关重要。

本课将探讨如何设计提示词，以保护您的宝贵信息并确保符合相关法规。

了解数据泄露

当敏感信息被无意或恶意暴露时，就会发生数据泄露。对于 LLM，这种情况可能发生在：

您在提示词中包含机密数据。
LLM 的响应无意中泄露了私人细节。
LLM 日志存储了敏感输入，而这些输入之后可能被访问。

请始终假设，发送给 LLM 的任何内容都可能以您无法完全控制的方式被存储或处理。

缓解提示词注入

当用户输入诱使 LLM 忽略原始指令或执行非预期操作时，这称为提示词注入。在企业环境中，这可能导致：

未经授权的数据访问。
生成有害或误导性内容。
绕过安全过滤器。

接下来我们将了解一些技术，使您的提示词能够更有效地抵御此类攻击。

保护 PII（个人数据）

个人身份信息（PII）是指能够识别个人身份的数据（例如姓名、地址、电话号码和电子邮件）。由于隐私法律的要求，处理 PII 时必须格外谨慎。

规则一：尽可能避免将 PII 发送给 LLM。
规则二：如果确实必要，请先将其匿名化或脱敏。
规则三：确保您的 LLM 提供商遵守严格的数据处理政策。

匿名化与脱敏

以下是保护敏感数据的关键技术：

匿名化：修改数据，使个人无法被识别，通常通过移除或汇总身份识别字段来实现。
脱敏：从文档或文本中移除或隐藏特定的敏感信息。

请始终在将数据发送给 LLM 之前完成这些步骤。

输入验证与清理

清理用户输入对于安全至关重要。验证用于检查输入是否符合预期标准（例如格式是否正确）。清理用于移除或中和可能有害的字符或模式。

请尝试运行以下基本清理函数示例：

def sanitize_text(user_input):
  # Remove common script tags to prevent basic XSS
  clean_text = user_input.replace("<script>", "")
  clean_text = clean_text.replace("</script>", "")
  
  # Further sanitization could include encoding special chars
  # or stripping unwanted HTML tags.
  
  return clean_text

# Example usage:
sensitive_input = "Hello <script>alert('malicious');</script> World!"
sanitized_output = sanitize_text(sensitive_input)
print(f"Original: {sensitive_input}")
print(f"Sanitized: {sanitized_output}")

访问控制与最小权限

请将最小权限原则应用于您的 LLM 集成。这意味着：

LLM 只能访问其绝对需要的数据。
如果将工具或应用程序接口与 LLM 配合使用，请确保这些工具也只有必要的最低权限。
为任何与 LLM 交互的系统实施强身份验证和授权。

安全的提示词设计模式

在设计提示词时考虑安全因素，可以显著降低风险：

明确禁止敏感数据：添加“请勿分享任何 PII。”之类的指令。
定义严格的输出格式：这样可以降低 LLM 偏离要求并注入不需要内容的可能性。
使用分隔符：清晰地将用户输入与指令分开，以防止注入。
保持提示词专注：避免过于宽泛的指令，以免导致非预期行为。

合规与法规

许多行业受到严格的数据隐私法规约束。提示词工程实践必须与以下法规保持一致：

GDPR（欧洲）：重点保护 EU 境内所有个人的数据和隐私。
HIPAA（USA）：保护敏感的患者健康信息。
CCPA（加利福尼亚州，USA）：赋予消费者对其个人信息更大的控制权。

了解这些法规有助于确保您的 LLM 解决方案符合法律要求。

检查您的理解

在企业环境中使用 LLM 时，以下哪些是增强数据隐私和安全性的有效策略？

回顾：安全且私密的提示词

您已经了解到，在企业提示词工程中，安全和数据隐私是不可妥协的。关键要点包括：

始终考虑数据泄露和提示词注入的风险。
通过匿名化和脱敏来保护 PII。
实施可靠的输入验证和清理。
以安全的方式设计提示词，并遵循最小权限原则。
确保符合相关法规。

遵循这些指南，您就能为组织构建强大且值得信赖的 LLM 解决方案！

常见问题解答

「提示中的安全与数据隐私」课时是免费的吗？

是的 — 「提示中的安全与数据隐私」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 AI Prompt Engineering 课程的其余内容，请升级到 CoddyKit PRO。 AI Prompt Engineering 课程共包含 3 节课。

「提示中的安全与数据隐私」这节课中我会学到什么？

处理为敏感企业数据设计提示时的关键安全问题，并确保数据隐私你通过在浏览器中直接运行的动手代码来练习 AI Prompt Engineering，全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 AI Prompt Engineering 需要有经验吗？

无需任何先前经验。CoddyKit 上的 AI Prompt Engineering 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。这是第 3 节课，共 3 节。

「提示中的安全与数据隐私」课时需要多长时间？

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。

我能在这节 AI Prompt Engineering 课中编写并运行代码吗？

能。每节 AI Prompt Engineering 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

← 返回 AI Prompt Engineering