11月21日,InfoQ中国发布文章探讨智能体AI架构带来的软件架构范式转变。文章指出,AI正推动软件系统从确定性的数据处理系统,转向融合知识推理的智能系统,IT系统的角色正从“数据管道”升级为“知识协作者”。
大多数软件工程师和架构师对微服务和云原生架构早已耳熟能详,这类系统通常由数十、数百甚至数千个服务组成,但都按照代码确定的逻辑或从数据存储中检索到的数据来处理数据,人们可以用确定性方式对其进行推理。然而,未来大量正在设计和交付的IT系统将利用基于AI的解决方案驱动面向用户的功能,架构师与工程师必须适应这一全新现实。
AI进入软件架构的核心驱动力,来自其对知识工作者所用产品的价值。过去IT系统专注于存储、处理数据并通过API和用户界面提供数据,人类负责相当一部分数据管理工作;借助AI能力,软件系统可以从操作原始数据转变为操作知识,从而在知识层面支撑业务运转、赋能终端用户。
文章将智能体AI架构定义为大规模使用智能体AI系统、以充分发挥生成式AI模型能力为目标的软件架构。这类架构建立在微服务和云原生架构之上,并加入智能体AI能力。智能体AI系统已从简单的单智能体解决方案,演变为链式结构、图结构和多智能体系统,不同协作策略或拓扑结构适合特定场景,很多时候选择更简洁的方案反而更有利。
随着上下文来源不断累积导致推理能力下降,上下文工程已成为智能体AI系统的基础实践。渐进式上下文披露技术可让智能体根据用户提示词选择性地加载详细信息;面向AI智能体的记忆系统也应运而生,对情景记忆、语义记忆、程序记忆等长期记忆进行组织和查询,让智能体能够用过去的经验、相关事实和习得行为补充上下文。
扫码查看视频号
咨询
咨询