人工智能系统架构模式

生产级 AI 系统远不只是一个模型文件。它还包括数据流水线、特征存储、服务基础设施和监控。架构模式是经过验证的蓝图，可帮助您可靠地组装这些组件。

AI 系统通常同时需要两种处理方式：

• 通过批处理基于历史数据获得准确而全面的结果
• 通过实时处理针对新事件获得新鲜且低延迟的结果

协调这两种处理方式是一项反复出现的设计挑战。

Lambda 架构通过两个并行运行的层解决这一问题：批处理层会基于所有数据重新计算准确的视图，速度层则以低延迟处理最近的数据。服务层会为查询合并两者的结果。

批处理层会定期重新处理完整数据集，以生成权威且正确的结果，例如每晚重新计算特征。它虽然准确，但延迟较高，因此无法反映最近几秒内发生的事件。

速度层会近乎实时地处理流式数据，以填补上次批处理运行以来的空缺。它以一定准确性换取新鲜度，并且其结果最终会被下一次批处理运行的结果取代。

特征存储是用于管理机器学习特征的中央系统。它解决了一个关键问题：训练和服务必须使用相同的特征定义，否则模型在生产环境中看到的输入会不同于训练时使用的输入（训练-服务偏差）。

离线存储保存大量历史特征值，通常以数据湖或数据仓库中的 parquet 文件形式存在。它支持训练和批量评分，在这些场景中，吞吐量比延迟更重要。

在线存储在低延迟数据库（例如 Redis）中保存最新的特征值。在服务时，模型会在几毫秒内从这里获取特征，并使用与离线存储相同的定义。

特征存储可确保用于训练的特征（离线）与服务读取的特征（在线）相匹配。这种一致性消除了生产环境中一个主要的隐蔽错误来源，也是特征存储的核心价值。

在生产环境中信任新模型之前，请以影子模式运行它：模型会接收真实流量并生成预测，但这些预测只会被记录，不会提供给用户。您可以将其与当前模型进行比较，而不会给用户带来任何风险。

当影子模式证明新模型在实时流量下准确且稳定后，您就可以晋级该模型，通常会通过金丝雀发布来完成。影子模式加上金丝雀发布，为模型从训练完成到承接全部生产流量提供了一条安全的分阶段路径。

测试您对架构的掌握程度。

您学习了 AI 系统的架构模式：

• Lambda 架构：批处理层（准确）加上速度层（新鲜）
• 特征存储：离线 parquet 用于训练，在线 Redis 用于服务，并保持定义一致
• 影子模式会在晋级新模型之前，使用真实流量验证该模型