AI Agent概述：从大语言模型到智能体

人工智能agent的起源与演进

人类对“会思考的机器”的追求可以追溯到计算科学的黎明时期。1936年，艾伦·图灵在其开创性论文《论可计算数及其在判定问题中的应用》中提出了通用计算模型的概念，首次将“机械化的数学推理”置于坚实的理论基础之上。这篇论文不仅奠定了现代计算机科学的根基，更为日后人工智能的发展提供了思想渊源。1945年，冯·诺依曼在《关于EDVAC的报告初稿》中勾画了存储程序计算机的架构，这一架构至今仍是绝大多数计算设备的设计范式。1950年，图灵发表了《计算机械与智能》一文，提出了那个至今仍被广泛引用的思想实验——“模仿游戏”（即后来所谓的“图灵测试”），首次系统性地探讨了机器是否能够思考这一根本性问题。

从这些早期的理论探索到真正意义上的人工智能学科建立，其标志性事件是1956年在新罕布什尔州达特茅斯学院举办的夏季研讨会。约翰·麦卡锡、马文·明斯基、克劳德·香农、纳撒尼尔·罗切斯特等计算机科学家聚集在一起，讨论如何让机器模拟人类智能的各个方面。这次会议正式确立了“人工智能”（Artificial Intelligence）这一术语，并将其定义为“使机器表现出与人类智能相关行为的研究”。值得注意的是，这次会议提案中就已经包含了利用语言和抽象概念进行复杂推理的机器系统设计，这隐约预示了六十年后大语言模型与智能体技术的融合方向。

在人工智能学科建立的最初十年间，研究者们主要关注的是如何构建能够进行逻辑推理和符号操作的系统。这一时期最具影响力的工作包括赫伯特·西蒙和艾伦·纽厄尔的逻辑理论家（Logic Theorist）程序，该程序能够证明《数学原理》中的定理，被公认为第一个人工智能程序；以及通用问题求解器（General Problem Solver, GPS），它首次尝试将问题求解过程形式化为手段-目的分析（Means-Ends Analysis）的通用框架。这些早期系统虽然在各自特定的领域内表现出色，但它们的智能表现主要建立在人工编码的规则和知识之上，缺乏真正的自适应能力和泛化能力。

从符号主义到专家系统：早期agent的范式建构

20世纪60年代至80年代是符号主义人工智能发展的黄金时期。这一范式的核心假设是：智能行为可以通过符号操作来实现，认知过程本质上是对符号表示进行操作的过程。在这种理论框架下，智能体被理解为操作符号表示的符号操纵器（Symbol Manipulator），其行为由一系列精心设计的推理规则所驱动。

这种范式最具代表性的应用形态是专家系统（Expert System）。专家系统是一种设计用来在特定领域内模拟人类专家决策能力的计算机程序，其核心组件包括知识库（Knowledge Base）和推理引擎（Inference Engine）两部分。知识库存储领域专家的经验知识和事实信息，通常以产生式规则（Production Rules）的形式表示；推理引擎则负责根据当前事实和知识库中的规则进行逻辑推导，得出结论或建议。

MYCIN系统是专家系统发展史上的一个里程碑式案例。1976年，斯坦福大学的爱德华·肖特利夫等人开发了MYCIN，这是一款用于诊断细菌性血液感染的医学诊断系统。MYCIN的知识库包含约450条规则，涵盖了600多种细菌的识别和相应的治疗建议。在评估测试中，MYCIN的表现被证明与传染病专家的水平相当，甚至在某些情况下更胜一筹。更为重要的是，MYCIN的设计者们引入了“确定性因子”（Certainty Factor）的概念来处理医学诊断中常见的不确定性，这一创新对后续专家系统的发展产生了深远影响。

DENDRAL系统则是专家系统在其他领域的成功应用典范。1965年，斯坦福大学开始研发DENDRAL，该系统能够根据化学分析数据推断有机分子结构。DENDRAL的工作流程涉及两步：首先利用约束满足算法生成候选分子结构，然后运用专家级化学知识对候选结构进行筛选和排序。DENDRAL的成功证明了专家系统在化学领域的实用价值，其设计理念也被推广到其他科学发现领域。

然而，专家系统的发展并非一帆风顺。20世纪80年代末期至90年代初期，专家系统开始暴露出严重的局限性。首先是知识获取瓶颈（Knowledge Acquisition Bottleneck）问题：专家系统的知识库需要由知识工程师（Knowledge Engineer）从领域专家处获取，这一过程既耗时又昂贵，而且往往难以完整表达专家的隐性知识。其次是知识表示和推理的脆弱性问题：专家系统依赖的规则系统难以处理例外情况和不完全信息，当输入数据偏离知识库覆盖范围时，系统性能急剧下降。此外，符号主义方法在处理感知、常识推理、自然语言理解等人类习以为常的智能任务时始终进展缓慢。

这些局限性促使研究者们开始反思符号主义范式的基本假设，并探索新的智能理论和技术路径。人工智能领域由此进入了一个相对沉寂的时期，但正是在这一时期，许多重要的理论和技术基础被奠定，为后来的复兴埋下了伏笔。

机器学习时代的agent：从统计学习到深度智能

20世纪80年代末90年代初，机器学习（Machine Learning）作为人工智能的一个子领域开始蓬勃发展。与符号主义方法不同，机器学习强调从数据中自动提取模式和知识，而非依赖人工编码的规则。这一范式转变标志着智能体设计思想的根本性变革：智能不再被理解为预编程的推理规则集合，而是从经验中学习得到的行为策略。

在机器学习发展的早期阶段，基于概率统计的方法占据了主导地位。贝叶斯网络（Bayesian Network）由朱迪亚·珀尔在1985年前后系统提出，提供了一种优雅的方式来表示和推理不确定性知识。贝叶斯网络将领域知识表示为有向无环图，节点代表随机变量，边表示变量间的条件依赖关系，辅以条件概率表描述这种依赖的强度。这种表示方法兼具可解释性和计算效率，成为专家系统向概率化方向发展的重要里程碑。

决策树（Decision Tree）学习是另一种在早期机器学习中取得巨大成功的方法。ID3、C4.5、CART等算法能够从训练数据中自动归纳出分类或回归模型，其输出形式为树状结构的决策规则，易于理解和解释。决策树学习的成功启示研究者们，复杂的智能行为可能可以通过相对简单的学习算法从数据中涌现，而无需人工设计复杂的规则系统。

支持向量机（Support Vector Machine, SVM）由弗拉基米尔·瓦普尼克及其合作者在1990年代中期发展成熟，是机器学习史上的另一项重大突破。SVM基于结构风险最小化原理，通过寻找能够最大化两类数据之间间隔的最优分离超平面来实现分类。核技巧（Kernel Trick）的引入使SVM能够有效处理非线性问题，极大地拓展了其应用范围。在相当长的一段时期内，SVM及其变体一直是模式识别领域的首选方法。

然而，真正将机器学习推向主流的革命性技术是深度学习（Deep Learning）。深度学习的理论基础是人工神经网络（Artificial Neural Network），这一概念可以追溯到1943年麦卡洛克和皮茨提出的阈值逻辑单元模型。但神经网络的实际应用长期受到训练困难的制约，直到2006年杰弗里·辛顿提出深度信念网络（Deep Belief Network）和“逐层预训练”（Layer-wise Pre-training）技术，深度神经网络的有效训练才成为可能。

2012年，AlexNet在ImageNet图像分类挑战赛上以压倒性优势夺冠，标志着深度学习时代的正式开启。此后，卷积神经网络（Convolutional Neural Network, CNN）在计算机视觉领域取得了系列突破；循环神经网络（Recurrent Neural Network, RNN）及其变体在序列建模和自然语言处理中大放异彩；深度强化学习（Deep Reinforcement Learning）则在游戏和机器人控制领域展现了惊人的能力。

深度强化学习的发展对于智能体研究具有特殊重要的意义。2013年，DeepMind团队发表了开创性论文《使用深度强化学习玩Atari游戏》，展示了仅凭原始像素输入就能学习达到人类水平的游戏策略。2016年，AlphaGo击败世界围棋冠军李世石，更是将这一技术的公众认知度推向了顶峰。AlphaGo的核心技术是将深度神经网络与蒙特卡洛树搜索（Monte Carlo Tree Search）相结合的混合架构，这种架构使智能体既能从大量棋谱数据中学习模式识别能力，又能通过搜索和规划在未知情境中做出高质量决策。

深度强化学习的成功揭示了智能体设计的一个重要原则：感知（Perception）与行动（Action）不应被割裂处理，而应在统一的学习框架中相互促进。智能体通过与环境的持续交互来学习哪些感知输入模式值得注意，哪些行动策略能够最大化长期回报。这种“嵌入式智能”（Embodied Intelligence）的思想对于理解智能本质具有重要意义，也为后来具身智能体（Embodied Agent）的发展奠定了基础。

大语言模型：agent的认知基础设施

2020年前后，Transformer架构的提出者谷歌团队又推出了基于Transformer的预训练语言模型BERT，其在多项自然语言理解基准测试中刷新了记录。紧接着，OpenAI发布了GPT-3，这是一个拥有1750亿参数的巨型语言模型，展示了惊人的语言生成和推理能力。GPT-3的发布引发了学术界和产业界的广泛关注，其后出现的ChatGPT更是将大型语言模型的公众认知度推向了前所未有的高度。

大型语言模型（Large Language Model, LLM）本质上是一种基于Transformer架构的深度神经网络，通过在海量文本语料上进行自监督预训练，学习语言的统计规律和语义表示。与传统的自然语言处理模型不同，LLM采用“预训练-微调”（Pre-training and Fine-tuning）的范式：首先在大规模通用语料上进行无监督预训练，获得通用的语言理解和生成能力；然后在特定任务的标注数据上进行有监督微调，使模型适应具体应用场景。

LLM的核心能力体现在多个层面。在语言理解方面，LLM能够准确把握文本的语义内容、语用意图和情感倾向，处理复杂的长程依赖关系和隐含表达。在知识表示方面，LLM将海量的世界知识编码在模型参数中，形成一种“参数化知识”（Parametric Knowledge），能够在需要时快速检索和应用。在推理能力方面，经过适当提示（Prompting）或微调的LLM能够进行多步逻辑推理、数学解题、代码生成等复杂认知任务。在生成能力方面，LLM能够根据输入生成连贯、流畅、符合人类表达习惯的文本，甚至能够创作诗歌、故事、论文等创造性内容。

这些能力的涌现（Emergence）引发了研究者们的深入思考。传统观点认为，智能是一个模块化的系统，不同的能力对应于不同的认知组件。然而，LLM的表现表明，大规模语言预训练可能催生出一种新型的通用智能形式：语言模型不仅学会了语言的表层结构和深层语义，还习得了一定的推理能力、世界知识和常识认知。这种“通过语言理解世界”的机制与人类认知发展存在有趣的平行——语言不仅是交流工具，更是人类思维和知识的载体。

对于智能体系统而言，LLM的价值远不止于强大的自然语言处理能力。更为重要的是，LLM可以作为智能体的“大脑”或“认知引擎”，为智能体提供知识、推理、规划和决策支持。具体而言，LLM可以扮演以下角色：

知识库与常识推理器。LLM中存储的丰富知识可以回答智能体在执行任务过程中遇到的各类问题，弥补智能体直接经验或显式知识库的不足。更进一步，经过推理链提示（Chain-of-Thought Prompting）等技术增强的LLM能够进行多步推理，帮助智能体分析和解决复杂问题。

任务规划与分解器。面对用户复杂的指令，LLM可以将任务分解为可执行的子步骤序列，生成详细的行动方案。LLM的语言理解和生成能力使其能够理解抽象指令的意图，并将其转化为具体的执行计划。

工具使用的中介。现代智能体经常需要调用外部工具（如搜索引擎、数据库、API等）来获取信息或完成任务。LLM可以作为用户意图理解和工具输出解释的桥梁，使智能体能够自然地与各种外部系统交互。

多模态感知的整合器。最新的多模态大语言模型（如GPT-4V、LLaVA等）已经能够处理图像、音频、视频等多种模态的输入，这为构建能够感知和理解复杂环境的智能体提供了可能。

agent的定义与本质特征

在深入探讨大语言模型如何赋能智能体之前，有必要先对“智能体”（Agent）这一核心概念进行精确界定。人工智能领域对智能体的研究可以追溯到20世纪80年代末期，Rodney Brooks的包容体系结构（Subsumption Architecture）和Maes的自主智能体模型是这一时期的开创性工作。1995年，斯坦福大学的Yoav Shoham提出了面向智能体的编程（Agent-Oriented Programming, AOP）范式，将智能体定义为拥有信念（Belief）、能力（Capability）和承诺（Commitment）的计算实体。

Russell和Norvig在其经典教材《人工智能：一种现代方法》中给出了一个被广泛引用的定义：智能体是任何能够感知环境并采取行动以实现目标的实体。根据这一定义，从简单的恒温器到复杂的自动驾驶系统都可以被视为智能体。然而，对于当代基于大语言模型的智能体系统，我们需要一个更加精细的概念框架来捕捉其独特特征。

当代AI Agent（特别是基于LLM的智能体）可以定义为：一种以大型语言模型为核心认知引擎，具有自主性（Autonomy）、反应性（Reactivity）、主动性（Proactiveness）和社会能力（Social Ability）的软件实体，能够通过感知、推理、规划和行动来履行用户委托的任务。

这一定义中的四个特性值得深入阐释。自主性指的是智能体能够在没有人类直接干预的情况下运行，根据其内部状态和当前环境做出决策。这并不意味着智能体完全脱离人类控制——事实上，大多数实用智能体系统都保留了人类监督和干预的机制——而是说智能体具有独立判断和执行任务的能力，而非简单被动地响应外部刺激。

反应性指智能体能够感知其所处环境的变化，并及时做出相应调整。这包括对外部输入（如用户指令、传感器数据、其他智能体的消息）的响应，也包括对内部状态变化（如资源消耗、任务进度）的察觉。反应性是智能体与静态程序最根本的区别之一：智能体始终处于与环境的持续交互中，其行为必须适应动态变化的情境。

主动性意味着智能体不仅被动响应环境刺激，还能主动设定目标、制定计划并付诸实施。主动性的核心是意向性（Intentionality）——智能体必须能够理解其行动的目的，并主动朝着目标推进。这种意向性在基于LLM的智能体中尤为重要，因为用户往往只是给出高层目标或模糊意图，智能体需要自行推断和细化具体的执行方案。

社会能力指智能体能够与其他智能体或人类进行有效交互。单个智能体的能力终究有限，通过协作可以完成更加复杂的任务。社会能力包括通信能力、协调能力、协商能力等多个维度，是构建多智能体系统的基础。

基于上述分析，我们可以将当代LLM-based Agent的核心架构概括为以下组件：

感知模块（Perception Module）负责接收和处理来自外部环境的信息输入。在多模态智能体中，这可能包括文本、图像、音频、视频等多种模态；在纯文本场景中，则主要是对用户指令和上下文信息的解析。感知模块的输出是结构化的内部表示，为后续的推理过程提供原材料。

认知引擎（Cognitive Engine）是智能体的核心，通常由大型语言模型实现。这一组件负责理解输入的语义、检索相关知识、进行推理和决策、生成响应和行动方案。认知引擎是智能体智能表现的关键来源，其能力直接决定了智能体的整体性能上限。

记忆系统（Memory System）用于存储和管理智能体的各类信息。这包括短期记忆——当前会话中的上下文信息；长期记忆——跨会话积累的知识和经验；以及工作记忆——当前任务相关的临时信息。记忆系统的设计直接影响智能体的一致性和连续性能力。

规划模块（Planning Module）负责将高层目标分解为可执行的行动序列。这一模块可能利用LLM自身的推理能力（如思维链提示），也可能结合外部的规划算法。规划能力对于智能体处理复杂、多步骤任务至关重要。

工具使用能力（Tool Use Capability）使智能体能够调用外部工具和服务来扩展其能力边界。这包括搜索引擎、数据库查询、代码执行器、API调用等多种工具。工具使用将智能体从纯语言生成的范畴扩展到实际的任务执行领域。

行动执行模块（Action Execution Module）负责将决策转化为实际效果，可能涉及文本输出、API调用、系统操作等多种形式。这一模块是智能体与外部世界交互的界面。

从llm到agent的演进路径

将大型语言模型转变为真正具有智能体能力的系统并非一蹴而就的过程，而是涉及多个层次的演进。这一演进路径可以划分为几个关键阶段，每个阶段都为智能体的能力提升做出了独特贡献。

第一阶段：纯粹的语言模型。在这一阶段，LLM作为纯粹的文本生成器运行，用户通过对话界面与其交互，模型根据输入生成文本响应。这一阶段的LLM没有环境感知能力，没有记忆（每次交互相互独立），也没有工具使用能力。其智能表现为有限的上下文理解能力和基于预训练知识的语言生成能力。

第二阶段：增强的上下文能力。为解决纯语言模型缺乏对话一致性的问题，研究者引入了上下文窗口扩展和会话管理机制。GPT-4将上下文窗口扩展到128K tokens，使得智能体能够"记住"会话早期的内容。这种上下文增强使智能体能够进行多轮对话，维护关于用户偏好和当前任务状态的信息，从而表现出更强的连续性。

第三阶段：工具使用能力。Toolformer是这一阶段的开创性工作，提出了让语言模型学习使用工具的通用框架。在这一范式下，智能体可以调用搜索引擎、计算器、代码解释器等外部工具来扩展其能力。工具使用使智能体从被动响应转向主动获取信息、执行操作，显著拓宽了其应用范围。

第四阶段：规划与推理能力的系统化。ReAct（Reasoning + Acting）范式的提出标志着智能体推理能力的系统化提升。ReAct要求智能体在执行行动的同时进行显式推理，形成“思考-行动-观察”的循环模式。这种范式使智能体的决策过程更加透明和可控，也为调试和优化提供了抓手。

第五阶段：长期记忆与持续学习。为解决会话间的信息遗忘问题，研究者开始探索为智能体添加外部记忆系统的方案。MemGPT等系统引入了层级记忆架构，将信息在不同的存储层级间移动，模拟人类认知中的工作记忆和长期记忆的区分。

第六阶段：多智能体协作。当多个具有专业能力的智能体被组织在一起协作时，能够完成远超单个智能体能力的复杂任务。AutoGen、CrewAI等框架提供了构建