NLP Academy · 课时

处理无答案情况与长文档

分块并检查置信度

第 4 / 4 课13 个步骤

处理无答案情况与长文档 是 CoddyKit 上的免费 NLP Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 NLP Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 NLP Academy 课程共包含 4 节课。

有时并不存在答案

现实中的问题经常在段落中没有答案。稳健的 QA 系统应当承认这一点,而不是强行猜测错误答案。🤔

空答案的概念

经过此类任务训练的模型会学习一个空答案选项。当没有合适的文本片段时,它们会指向空答案,而不是自行编造答案。

允许空答案

在管道中,将处理无法回答的问题设置为 true,这样当上下文中没有匹配内容时,它就能返回空字符串。

qa(question=q, context=c,
   handle_impossible_answer=True)

用分数作为门槛

置信度分数就是您的安全门槛。如果它低于您认可的阈值,就应将该回复视为没有答案。

if result["score"] < 0.2:
    answer = "I do not know."

长文档会超出限制

Transformer 有固定的最大长度,通常是 512 个词元。长文档无法一次完整放入模型。

分块处理上下文

解决方法是分块:将长文档拆分成相互重叠的窗口,然后分别在每个窗口上运行 QA。

窗口为何要重叠

各个文本块应当稍微重叠。否则,位于文本块边界的答案可能会被拆开,遗失在两个窗口之间。

内置滑动窗口

QA 管道可以替您完成这项工作。设置文档步幅即可控制每个窗口与前一个窗口的重叠程度。

qa(question=q, context=long_text,
   max_seq_len=384, doc_stride=128)

合并各文本块的答案

每个文本块都会产生自己的答案和分数。您应在所有文本块中保留分数最高的候选答案,作为最终回复。

先检索,再阅读

对于海量文档集合,请先检索出少量最相关的段落,然后只对这些段落运行 QA。这是大型 QA 系统的核心做法。

诚实才能建立信任

不确定时返回没有答案是一项功能,而不是缺陷。诚实的 QA 比自信地猜错答案更能赢得用户信任。🛡️

快速检查

我们如何将非常长的文档输入 QA 模型?

回顾

允许空答案并根据分数设置门槛,以保持诚实;对长文档进行重叠分块,然后保留分数最高的文本片段。现在,您已经可以构建稳健的 QA 系统了。🎉

免费开始

用 AI 导师学习 Python — 免费

在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。

课程
30
课程
120

常见问题解答

「处理无答案情况与长文档」课时是免费的吗?

是的 — 「处理无答案情况与长文档」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 NLP Academy 课程的其余内容,请升级到 CoddyKit PRO。 NLP Academy 课程共包含 4 节课。

「处理无答案情况与长文档」这节课中我会学到什么?

分块并检查置信度 你通过在浏览器中直接运行的动手代码来练习 NLP Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 NLP Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 NLP Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。

「处理无答案情况与长文档」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 NLP Academy 课中编写并运行代码吗?

能。每节 NLP Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 抽取式 QA 与生成式 QA
  2. 运行 QA 流水线
  3. 在上下文中查找答案片段
  4. 处理无答案情况与长文档
← 返回 NLP Academy