掌控智能体

人工智能智能体能够独立完成的事情越多，您保持掌控就越重要。能够采取行动——预订、发送消息、消费——的智能体可以为您节省大量时间，但也可能自信地犯下会造成实际后果的错误。保持监督者的角色，才能在享受便利的同时避免受损。您可以委派工作，但不能委派自己的判断。

在智能体运行之前，请先告诉它边界。请推荐价格低于 300 美元的航班，但不要进行任何预订——先给我看。对支出、发送消息和范围设定明确限制，可以防止智能体超出您的意愿。明确说明它可以做什么、不能做什么，是防止强大工具带来意外的最有效方法。

对于任何重要事项，都应要求智能体在采取行动前暂停并等待您的批准。

• 起草电子邮件，但先不要发送
• 找到预订信息，但让我先确认
• 提出修改建议，但暂时不要应用

这样可以为每个会带来后果的行动保留人工检查点，防止自动化失误造成高昂代价。

智能体完成多步骤任务后，不要只接受结果——请阅读它实际做了什么。检查各个步骤、来源以及它做出的选择。智能体可能会误解目标，或引用错误的来源，却表现得十分自信。快速检查可以在错误造成损害前发现它们，也能帮助您了解自己可以在多大程度上信任这个特定工具。

不要在第一天就把最大、风险最高的任务交给新的智能体。从低风险的琐事开始——查找资料、起草内容、制作清单——并观察它的表现。当它在小任务上逐渐赢得您的信任后，再逐步让它处理更多事情。这种逐步建立信任的方法，可以让您了解智能体的优势和特点，而不必在准备好之前让重要事项承担风险。

智能体沿袭了聊天机器人的习惯：即使出错，也会表现得很确定。一份措辞流畅、态度果断的报告，仍然可能包含编造的事实或误读的指令。绝不要把自信误认为正确。智能体的输出越 polished、越果断，您就越应该有意识地核查其中的重要部分。您的怀疑精神，是所有顺畅自动化功能之下的安全网。

对于任何需要花钱、向真实的人发送消息，或难以撤销的操作，都要格外小心。这些操作每次都应经过严格的确认步骤——没有例外。能够代表您消费或发送消息的智能体很方便，但一个错误就可能造成高昂代价或令人尴尬的后果。请始终把这些高风险操作牢牢掌握在自己手中。

将智能体连接到您的电子邮件、文件或账户后，它就拥有了实际的操作范围。只授予任务真正需要的访问权限，并时常重新检查这些权限。连接的内容越多，错误或滥用可能造成的影响就越大。请把账户访问权限当作一把需要谨慎出借的钥匙——交给合适的人很有用，但不加考虑地交出去就会带来风险。

有些决定不应完全委派出去：医疗、法律、财务方面的决定，以及任何会影响他人生活的决定。您可以使用智能体来收集和整理信息，但最终决定应由您自己或具备资质的人做出。智能体是助手，而不是权威。知道哪些选择必须由人来决定，无论技术变得多么强大，都能让您保持安全。

始终要知道如何停止或撤销智能体正在进行的操作。您能取消某个步骤、撤销一项操作，或在它偏离方向时关闭它吗？在开始之前了解停止开关和撤销选项，就意味着行为异常的智能体只会带来不便，而不会酿成灾难。保持掌控也包括随时停止操作的能力。

保持掌控并不是不信任人工智能，而是为了更自信、更安全地使用它。设定限制、要求确认、检查工作、从小事开始，并管好高风险操作。养成这些习惯后，您可以把实际琐事交出去，同时相信自己能够发现问题。良好的监督能把强大但容易犯错的智能体，变成真正有帮助的助手。

请选择最安全的掌控习惯。

保持对智能体的掌控，能让您安全地享受它的能力。预先设定明确限制，对任何重要事项要求先确认后行动，并检查智能体实际做了什么，而不是相信它自信的输出。从低风险任务开始，等它证明自己后再逐步扩大信任；对支出和敏感操作要求严格确认，并且只授予任务所需的权限。医疗、法律以及影响生活的决定应由人来做，同时始终要知道如何停止或撤销操作。良好的监督能把容易犯错的智能体变成真正有帮助的助手。