上下文为何会改变词义
理解 bank the river 与 bank the money 的差异
上下文为何会改变词义 是 CoddyKit 上的免费 NLP Academy 课时。 这是第 1 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 NLP Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 NLP Academy 课程共包含 4 节课。
一个词，多种含义
bank 这个词既可以表示河岸，也可以表示存钱的地方。它的含义完全取决于周围的上下文。
静态向量的局限
word2vec 和 GloVe 为每个词提供一个固定向量。因此，无论 bank 出现在哪个句子中，它都只有一个静态含义。
看清问题
这两个句子以相反的方式使用 bank，但静态模型仍会为其中的这个词提供完全相同的向量。
s1 = "sit on the bank of the river"
s2 = "deposit cash at the bank"人类会阅读上下文
您能立即知道指的是哪个 bank，是因为您会阅读周围的词语。含义存在于上下文中，而不只存在于词语本身。
引入上下文嵌入
上下文模型会为每个句子中的 bank 提供不同的向量。嵌入现在会随着每次出现的上下文进行调整。✨
认识 BERT
BERT 是一种能够一次读取完整句子并生成上下文感知向量的 Transformer。它以覆盖所有词语的注意力为核心。
双向阅读
BERT 会同时查看每个词元左侧和右侧的词语。这种双向视角就是双向的含义。
同一个词元，新的向量
将关于河流和金钱的两个句子输入 BERT 后，bank 会生成两个不同的向量。这个嵌入会跟踪句子的含义。
解决一词多义
具有多种含义的词称为一词多义，过去常常会让静态模型混淆。上下文嵌入终于能够清晰地区分这些含义。
为什么这很重要
当模型真正理解一个词当前表达的含义时，搜索、翻译和问答都会得到改善。
重大转变
从每个词一个向量转变为每种用法一个向量，是一个转折点。这正是现代自然语言处理的核心。
快速检查
上下文嵌入与静态嵌入有何不同？
回顾
静态向量将每个词限制在一种含义中。来自 BERT 的上下文嵌入会随句子变化，从而捕捉正确的词义。✅
用 AI 导师学习 Python — 免费
在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「上下文为何会改变词义」课时是免费的吗？
是的 — 「上下文为何会改变词义」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 NLP Academy 课程的其余内容，请升级到 CoddyKit PRO。 NLP Academy 课程共包含 4 节课。
「上下文为何会改变词义」这节课中我会学到什么？
理解 bank the river 与 bank the money 的差异 你通过在浏览器中直接运行的动手代码来练习 NLP Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 NLP Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 NLP Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 1 节课，共 4 节。
「上下文为何会改变词义」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 NLP Academy 课中编写并运行代码吗？
能。每节 NLP Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 上下文为何会改变词义
- 掩码语言模型
- 使用 BERT 嵌入句子
- 选择合适的预训练模型