构建 RNN 文本模型
在 PyTorch 或 Keras 中完成搭建
构建 RNN 文本模型 是 CoddyKit 上的免费 NLP Academy 课时。 这是第 3 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 NLP Academy 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 NLP Academy 课程共包含 4 节课。
从理论走向代码
现在开始构建一个真正的模型。PyTorch 和 Keras 都提供了现成的 RNN 层，因此您可以专注于形状，而不是底层数学运算。
从嵌入开始
您的第一层通常是嵌入层。它会将每个整数形式的词 ID 映射为可学习的稠密向量。
添加循环层
接下来是 RNN 层本身。它会遍历嵌入后的序列，并为输入输出一个隐藏状态。
Keras 示例
在 Keras 中，一个基础的文本 RNN 只需几层堆叠即可构建，从上到下非常易读。
model = Sequential([
Embedding(vocab, 64),
SimpleRNN(32),
Dense(1, activation="sigmoid")])PyTorch 的方式
在 PyTorch 中，您可以定义一个 nn.RNN，将批次传入其中，然后读取最后的隐藏状态进行预测。
rnn = nn.RNN(64, 32, batch_first=True)
out, h = rnn(embedded)填充序列
真实句子的长度各不相同，因此需要将它们填充到统一长度，并让模型忽略填充位置。
最后添加一个全连接层
在 RNN 顶部添加一个全连接层，将总结状态转换为类别得分或概率。
选择损失函数
对于二分类问题，请将 sigmoid 输出与二元交叉熵搭配使用；对于多分类问题，请使用分类交叉熵。
训练模型
然后调用 fit 或训练循环，输入多个批次，使网络调整其权重以降低损失。
警惕过拟合
RNN 容易记住小型数据集。请加入 dropout 或提前停止训练，让您的模型在新文本上也能保持良好表现。
您构建了一个序列模型
嵌入层、RNN，再加上全连接层：这个简单的结构已经能够按顺序读取文本，并端到端地学习文本分类。🛠️
快速检查
在 RNN 文本模型中，通常首先出现的是哪一层？
回顾
一个可运行的 RNN 会依次堆叠 嵌入层、循环层和全连接输出层，然后在填充后的序列上训练，以便对文本进行分类。🎯
用 AI 导师学习 Python — 免费
在浏览器中编写并运行真实代码，获得全天候 AI 导师的即时帮助，并在网页或应用中继续学习。
- 课程
- 30
- 课程
- 120
常见问题解答
「构建 RNN 文本模型」课时是免费的吗？
是的 — 「构建 RNN 文本模型」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 NLP Academy 课程的其余内容，请升级到 CoddyKit PRO。 NLP Academy 课程共包含 4 节课。
「构建 RNN 文本模型」这节课中我会学到什么？
在 PyTorch 或 Keras 中完成搭建 你通过在浏览器中直接运行的动手代码来练习 NLP Academy，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 NLP Academy 需要有经验吗？
无需任何先前经验。CoddyKit 上的 NLP Academy 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 3 节课，共 4 节。
「构建 RNN 文本模型」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 NLP Academy 课中编写并运行代码吗？
能。每节 NLP Academy 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 语言中词语顺序为何重要
- RNN 如何读取序列
- 构建 RNN 文本模型
- 梯度消失问题