RNN 如何读取序列
隐藏状态携带过去的信息
RNN 如何读取序列 是 CoddyKit 上的免费 NLP Academy 课时。 这是第 2 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 NLP Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 NLP Academy 课程共包含 4 节课。
一次处理一个词
循环神经网络像您一样阅读文本：先读取一个词元，再读取下一个，而不是一口气读取整个句子。
隐藏状态
在每一步中，RNN 都会保留一个称为隐藏状态的小型记忆，它是对目前为止所读取内容的向量总结。
遍历词元
同一个单元会反复运行，每个词运行一次。这种重复循环的结构正是它被称为循环网络的原因。
记忆向前传递
每个新词都会更新隐藏状态，因此句子前面的上下文会悄然传递到后续步骤。
更新规则
从概念上看，新状态会通过学习得到的权重和激活函数，将先前状态与当前输入混合起来。
h = tanh(W_h @ h_prev + W_x @ x_t + b)共享权重
RNN 在每个位置重复使用相同的权重。这种共享机制让它只需一个紧凑的单元，就能处理任意长度的句子。
输入是向量
每个词首先会变成数值嵌入向量。RNN 看不到字母，只能逐个接收这些稠密向量。
简短演示
读取“I love this”时，状态在读取 I 后发生变化，在读取 love 后再次变化，最终的状态反映出整个短语。
最终状态
对于分类任务，最后一个词之后的隐藏状态通常会被用作整个序列的总结。
每一步的输出
您也可以读取每一步的输出，这对于为每个词添加标注很有用，例如词性标签。
这对自然语言处理有何帮助
由于状态会携带过去的信息，RNN 终于能够注意到“不”会反转其后词语的含义。🔁
快速检查
RNN 会将什么信息从一个词元传递到下一个词元？
总结
RNN 会遍历词元，更新能够记住过去的隐藏状态，因此顺序和上下文终于会影响其输出。🎯
常见问题解答
「RNN 如何读取序列」课时是免费的吗？
是的 — 「RNN 如何读取序列」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 NLP Academy 课程的其余内容，请升级到 CoddyKit PRO。 NLP Academy 课程共包含 4 节课。
「RNN 如何读取序列」这节课中我会学到什么？
隐藏状态携带过去的信息 你通过在浏览器中直接运行的动手代码来练习 NLP Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 NLP Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 NLP Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 2 节课，共 4 节。
「RNN 如何读取序列」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 NLP Academy 课中编写并运行代码吗？
能。每节 NLP Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 语言中词语顺序为何重要
- RNN 如何读取序列
- 构建 RNN 文本模型
- 梯度消失问题