你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

什么是 Azure AI Foundry 代理服务?

大多数企业不希望只使用聊天机器人 - 他们希望自动化更快且出错更少。 这可能意味着汇总文档、处理发票、管理支持票证或发布博客文章。 在所有情况下,目标是相同的:通过卸载重复性和可预测的任务,释放人员和资源以专注于更高价值的工作。

大型语言模型(LLM)使用系统打开了一种新型自动化的大门,这些系统可以理解非结构化数据、做出决策并生成内容。 在实践中,企业很难超越演示和投入生产。 LLM 可能会偏移、不正确且缺乏责任。 如果没有可见性、策略强制和协调,这些模型在实际业务流程中难以信任。

Azure AI Foundry 旨在改变这一点。 它是一个平台,将模型、工具、框架和治理合并为一个统一的系统,用于生成智能代理。 此系统的中心是 Azure AI Foundry 代理服务,可实现跨开发、部署和生产环境的代理服务运作。

图形显示“Foundry Agent Service 是 Azure AI Foundry 的粘合剂”。

AI Foundry 代理服务将 Azure AI Foundry 的核心部分(例如模型、工具和框架)连接到单个运行时。 它管理线程、协调工具调用、强制实施内容安全,并与标识、网络和可观测性系统集成,以确保代理安全、可缩放和生产就绪。

通过设计抽象化基础结构复杂性并强制实施信任和安全,AI Foundry 代理服务可以轻松地从原型转移到生产环境。

什么是 AI 代理?

代理做出决策、调用工具和参与工作流。 有时是独立,有时与其他代理或人类协作。 将智能体与助手区分开来的关键是自主性:助手是支持人们的,而智能体是完成目标的。 它们是真正的流程自动化的基础。

使用 AI Foundry 创建的代理不是整体式代理。 它们是可组合的单位。 每个角色都有一个特定的角色,由正确的模型提供支持,并配备了正确的工具,并部署在安全、可观察和可管理运行时内。

每个代理都有三个核心组件:

  • 模型 (LLM):支持推理和语言理解
  • 说明:定义代理的目标、行为和约束
  • 工具:让代理检索知识或采取措施

图形显示“什么是 AI 智能体?”

代理接收非结构化输入,例如来自其他代理的用户提示、警报或消息。 它们以工具结果或消息的形式生成输出。 在此过程中,他们可能会调用工具来执行检索或触发操作。

AI Foundry 中的代理的工作原理是什么?

将 Azure AI Foundry 视为智能代理的装配线。 与任何现代工厂一样,它汇集了不同的专业工作站,每个站都负责塑造最终产品的一部分。 代理工厂使用模型、工具、策略和业务流程来生成安全、可测试和生产就绪的代理,而不是机器和传送带。 下面是工厂分步工作原理:

图形显示“Azure AI Foundry:代理工厂”。

1. 模型

该装配线首先选择一个模型来提供代理的智能。 从不断增长的大型语言模型目录中进行选择,包括 GPT-4o、GPT-4、GPT-3.5 (Azure OpenAI) 等。 这是授权其决策的代理的推理核心。

2. 自定义

接下来,调整该模型以适应用例。 使用微调、提取或特定于域的提示自定义代理。 此步骤允许您使用从真实线程内容和工具结果中捕获的数据,来将代理的行为、角色特定的知识以及先前表现的模式进行编码。

3. AI 工具

然后,为代理配备工具。 这样,它就可以访问企业知识(例如 Bing、SharePoint、Azure AI 搜索)并执行实际操作(通过 Logic Apps、Azure Functions、OpenAPI 等)。 这增强了代理扩展其功能的能力。

4. 业务流程

接下来,代理需要协调。 连接的代理 协调整个生命周期,例如处理工具调用、更新线程状态、管理重试和日志记录输出。

5. 信任

务必确保工作人员适合并可靠地应对他们所被分配的工作负荷。 AI Foundry 应用企业级信任功能,包括通过 Microsoft Entra 实现的标识管理、基于角色的访问控制 (RBAC)、内容过滤、加密和网络隔离。 选择代理的运行方式和位置 - 使用平台托管或自带基础结构。

6. 可观测性

最后,对代理进行测试和监视。 AI Foundry 可以在每个步骤中捕获日志、跟踪和评估。 借助完整的线程级可见性和 Application Insights 集成,团队可以检查每个决策,并随着时间的推移不断改进代理。

结果? 为生产准备的代理:可靠、可扩展且可以在工作流中安全部署。

为何使用 Azure AI Foundry 代理服务?

Azure AI Foundry 代理服务为在企业环境中部署智能代理提供了生产就绪的基础。 下面介绍了它如何跨关键功能进行比较:

能力 Azure AI Foundry 代理服务
1.对于对话的可见性 完全访问结构化 线程,包括用户↔代理和代理↔代理消息。 非常适合用于 UI、调试和培训
2. 多代理协调 对于代理到代理消息传送的内置支持。
3. 工具编排 在服务器端执行和重试工具调用,并进行结构化日志记录。 无需手动协调。
4. 信任和安全 集成 内容筛选器 有助于防止滥用并缓解提示注入风险(XPIA)。 所有输出均受策略控制。
5. 企业集成 自带 存储Azure AI 搜索索引虚拟网络 以满足合规性需求。
6. 可观测性和调试 线程、工具调用和消息跟踪是完全可跟踪的Application Insights 集成用于遥测
7. 标识和策略控制 基于 Microsoft Entra 构建,完全支持 RBAC、审核日志和企业条件访问。

开始使用 Foundry 代理服务

若要开始使用 Foundry 代理服务,需要在 Azure 订阅中创建 Azure AI Foundry 项目。

开始使用 环境设置快速入门 指南(如果这是你第一次使用该服务)。

  1. 可以使用所需的资源创建项目。
  2. 创建项目后,可以部署兼容的模型,例如 GPT-4o。
  3. 如果已部署模型,还可以使用 SDK 开始对服务进行 API 调用。

后续步骤

详细了解支持代理的模型