AI Agent常见问题和核心术语

今年一直在学习并实践AI Agent、Workflow等，最近研读了google发布的智能体设计模式，并在实践过程中对一些常见的术语定义和问题进行了整理，主要结合AI对一些面试中用到的Agent问题进行了梳理，供大家参考。

一、常见问题

1.什么是提示链（Prompt Chaining）？它如何解决单个复杂提示的局限性？
解析：提示链是一种将复杂问题分解为一系列更小、更易于管理的子问题的一种策略。每个子问题通过一个专门设计的提示来解决，前一个提示的输出会作为后一个提示的输入。这种方法通过循序渐进的工作流提高了可靠性和可控性，解决了单个复杂提示可能导致模型忽略指令、上下文漂移或错误传播的问题。

2.请解释路由（Routing）模式的核心作用，并列举一种实现路由机制的方法：
解析：路由模式的核心作用是为智能体的工作流引入条件逻辑，使其能够根据用户输入或当前状态等标准，在多个可能的行动或子流程之间动态地选择执行路径。一种实现方法是基于LLM的路由，即通过提示让语言模型分析输入并输出一个类别标识符，系统根据这个标识符来决定下一步的操作。

3.什么是知识检索（RAG）？它如何增强大语言模型（LLM）的能力？
解析：知识检索（RAG）是一种在生成回应前，让大语言模型访问外部知识库的模式。它首先根据用户查询进行语义搜索，检索出最相关的信息片段，然后将这些信息“增强”或添加到原始提示中，再交给LLM处理。这使得LLM能够提供更准确、最新且有事实依据的答案，克服了其知识仅限于训练数据的局限性。

4.在多智能体协作（Multi-Agent Collaboration）模式中，“批判者-评审者”（Critic-Reviewer）模型是如何工作的？
解析：在“批判者-评审者”模型中，一组智能体（生产者）负责创建初始输出，如计划、草稿或代码。第二组智能体（批判者）则专门评估这些输出，检查其是否符合策略、安全性、正确性和质量等标准。批判者的反馈随后被用于指导初始创建者或最终智能体进行修订，从而提高最终结果的稳健性和质量。

5.解释什么是“人在环路”（Human-in-the-Loop, HITL）模式，并说明其在AI系统中的重要性。
解析：人在环路”模式是一种将人类的认知能力（如判断力、创造力和细致理解）与AI的计算能力相结合的策略。它的重要性在于确保AI在道德和安全协议内运行，尤其是在复杂、模糊或高风险领域，人类的监督、战略输入和协作互动对于防止错误和保证系统与人类价值观保持一致是不可或缺的。

6.智能体记忆管理分为哪两种主要类型？请简要描述它们的功能。
解析：智能体记忆管理分为短期记忆（上下文记忆）和长期记忆（持久性记忆）。短期记忆通常存在于模型的上下文窗口中，保存当前交互的最近信息，但会话结束后会丢失。长期记忆则将信息存储在外部数据库（如向量数据库）中，使智能体能够跨会话保留和检索知识，实现真正的持久性。

7.自我修正（Self-Correction）模式通常涉及哪两个关键的逻辑角色？它们各自的职责是什么？
解析：自我修正模式的一个高效实现是“生产者-批判者”（Producer-Critic）模型。生产者智能体的主要职责是执行任务并生成初始内容。批判者智能体的唯一目的是评估生产者的输出，它被赋予不同的指令（如“你是一名高级软件工程师”），以根据特定标准发现缺陷并提供结构化反馈，用于指导生产者进行改进。

8.什么是“思维链”（Chain-of-Thought, CoT）提示技术？它如何提升模型的推理能力？
解析：思维链是一种提示技术，它引导模型在给出最终答案之前，先生成一系列中间的推理步骤，模仿人类分解问题的过程。这种方法通过将一个困难问题转化为一系列更简单的步骤，显著提高了模型在算术、常识和符号推理等多步推理任务上的表现，并增强了其推理过程的透明度。

9.根据源材料，当前阶段的AI智能体存在哪些主要的技术短板或局限性？
解析：根据源材料，现阶段的AI智能体在几个方面存在局限。首先，其推理能力（REASON）是明显的短板。其次，记忆大多局限于通过提示构建的短期记忆，缺乏对话之外的持久知识累积机制。最后，智能体的“大脑”仍以语言模型为主，缺乏对多模态信息的深入理解。

10.资源感知优化（Resource-Aware Optimization）模式旨在解决什么问题？请举一个实际应用例子。
解析：资源感知优化模式旨在解决在计算、时间和财务资源受限的情况下，平衡AI系统输出质量与运营成本的挑战。一个实际应用例子是智能问答系统，它会评估问题的难度，对简单查询使用成本效益高的模型（如Gemini Flash），而对需要深度分析的复杂查询，则在预算和时间允许的情况下使用更强大但更昂贵的模型（如Gemini Pro）。

二、核心术语

AI Agent核心术语词汇表如下：