MCP Academy · 课时

使用会话水平扩展

在负载均衡器后运行多个实例。

第 4 / 4 课13 个步骤

使用会话水平扩展 是 CoddyKit 上的免费 MCP Academy 课时。 这是第 4 节课,共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 MCP Academy 学习路径的一部分,你的进度在网页和 CoddyKit 应用中同步。 MCP Academy 课程共包含 4 节课。

一个盒子有其极限

单个服务器进程的处理能力有限。为了服务更多流量,您可以并行运行它的多个实例。📈

横向扩展,而不只是纵向扩展

增加服务器副本就是横向扩展。与购买一台不断升级的大型机器相比,这通常更便宜也更安全。

在前端放置负载均衡器

负载均衡器位于前端,将传入请求分发到各个实例,因此不会有任何一个副本负载过重。

HTTP 让这一切成为可能

横向扩展需要网络传输,因此 MCP 服务器通过可流式传输的 HTTP运行,而不是使用仅限本地的标准输入输出传输。

会话跟踪每个客户端

MCP 将每个客户端的状态保存在会话中。客户端会在每次后续请求中发回用于标识会话的 ID。

Mcp-Session-Id: 1f5c...e9

粘性问题

如果会话状态只存在于某个实例的内存中,那么被路由到其他位置的请求就会丢失状态。这种不匹配就是粘性问题。

选项 A:粘性路由

一种解决方法是使用粘性会话:负载均衡器始终将某个会话 ID 发回创建它的同一实例。

选项 B:共享会话存储

对于扩展而言,更好的方案是使用 Redis 这样的共享存储。任何实例都可以加载会话,因此请求可以自由路由,并且能够经受重启。

以无状态实例为目标

让实例保持无状态,不要只将关键内容保存在本地内存中。这样,您可以随时添加、移除或替换实例。

健康检查指导路由

均衡器会访问每个实例的健康端点;如果某个副本检查失败,就停止向它发送流量,让用户继续使用健康的副本。

根据需求自动扩展

借助无状态实例,您可以自动扩展:负载上升时增加副本,下降时移除副本,只需为实际使用的资源付费。

快速检查

什么机制让您可以将任意请求路由到任意实例?

回顾:横向扩展

您在负载均衡器后运行了多个实例,在中央存储中共享会话,并让副本保持无状态,以便按需自动扩展。🚀

免费开始

用 AI 导师学习 Python — 免费

在浏览器中编写并运行真实代码,获得全天候 AI 导师的即时帮助,并在网页或应用中继续学习。

课程
30
课程
120

常见问题解答

「使用会话水平扩展」课时是免费的吗?

是的 — 「使用会话水平扩展」的完整文本可在网页上免费阅读。要进行交互式练习(内置代码编辑器和全天候 AI 导师)并解锁 MCP Academy 课程的其余内容,请升级到 CoddyKit PRO。 MCP Academy 课程共包含 4 节课。

「使用会话水平扩展」这节课中我会学到什么?

在负载均衡器后运行多个实例。 你通过在浏览器中直接运行的动手代码来练习 MCP Academy,全天候 AI 导师会在你学习这节课的过程中回答你的问题。

学习 MCP Academy 需要有经验吗?

无需任何先前经验。CoddyKit 上的 MCP Academy 课程适合初学者到高级学习者,你可以从这里开始或从头开始,按照自己的节奏学习。 这是第 4 节课,共 4 节。

「使用会话水平扩展」课时需要多长时间?

大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动,所以你能稳步进步,并在网页和应用中从离开的地方继续。

我能在这节 MCP Academy 课中编写并运行代码吗?

能。每节 MCP Academy 课都包含内置代码编辑器,你可以在浏览器中直接编写并运行真实代码,并获得即时 AI 反馈 — 无需本地设置。

此课程中的所有课时

  1. 不会阻塞的异步工具
  2. 并发与反压
  3. 精简令牌消耗较大的结果
  4. 使用会话水平扩展
← 返回 MCP Academy