你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
大多数企业不希望只使用聊天机器人 - 他们希望自动化更快且出错更少。 这可能意味着汇总文档、处理发票、管理支持票证或发布博客文章。 在所有情况下,目标是相同的:通过卸载重复性和可预测的任务,释放人员和资源以专注于更高价值的工作。
大型语言模型(LLM)使用系统打开了一种新型自动化的大门,这些系统可以理解非结构化数据、做出决策并生成内容。 在实践中,企业很难超越演示和投入生产。 LLM 可能会偏移、不正确且缺乏责任。 如果没有可见性、策略强制和协调,这些模型在实际业务流程中难以信任。
Azure AI Foundry 旨在改变这一点。 它是一个平台,将模型、工具、框架和治理合并为一个统一的系统,用于生成智能代理。 此系统的中心是 Azure AI Foundry 代理服务,可实现跨开发、部署和生产环境的代理服务运作。
AI Foundry 代理服务将 Azure AI Foundry 的核心部分(例如模型、工具和框架)连接到单个运行时。 它管理线程、协调工具调用、强制实施内容安全,并与标识、网络和可观测性系统集成,以确保代理安全、可缩放和生产就绪。
通过设计抽象化基础结构复杂性并强制实施信任和安全,AI Foundry 代理服务可以轻松地从原型转移到生产环境。
什么是 AI 代理?
代理做出决策、调用工具和参与工作流。 有时是独立,有时与其他代理或人类协作。 将智能体与助手区分开来的关键是自主性:助手是支持人们的,而智能体是完成目标的。 它们是真正的流程自动化的基础。
使用 AI Foundry 创建的代理不是整体式代理。 它们是可组合的单位。 每个角色都有一个特定的角色,由正确的模型提供支持,并配备了正确的工具,并部署在安全、可观察和可管理运行时内。
每个代理都有三个核心组件:
- 模型 (LLM):支持推理和语言理解
- 说明:定义代理的目标、行为和约束
- 工具:让代理检索知识或采取措施
代理接收非结构化输入,例如来自其他代理的用户提示、警报或消息。 它们以工具结果或消息的形式生成输出。 在此过程中,他们可能会调用工具来执行检索或触发操作。
AI Foundry 中的代理的工作原理是什么?
将 Azure AI Foundry 视为智能代理的装配线。 与任何现代工厂一样,它汇集了不同的专业工作站,每个站都负责塑造最终产品的一部分。 代理工厂使用模型、工具、策略和业务流程来生成安全、可测试和生产就绪的代理,而不是机器和传送带。 下面是工厂分步工作原理:
1. 模型
该装配线首先选择一个模型来提供代理的智能。 从不断增长的大型语言模型目录中进行选择,包括 GPT-4o、GPT-4、GPT-3.5 (Azure OpenAI) 等。 这是授权其决策的代理的推理核心。
2. 自定义
接下来,调整该模型以适应用例。 使用微调、提取或特定于域的提示自定义代理。 此步骤允许您使用从真实线程内容和工具结果中捕获的数据,来将代理的行为、角色特定的知识以及先前表现的模式进行编码。
3. AI 工具
然后,为代理配备工具。 这样,它就可以访问企业知识(例如 Bing、SharePoint、Azure AI 搜索)并执行实际操作(通过 Logic Apps、Azure Functions、OpenAPI 等)。 这增强了代理扩展其功能的能力。
4. 业务流程
接下来,代理需要协调。 连接的代理 协调整个生命周期,例如处理工具调用、更新线程状态、管理重试和日志记录输出。
5. 信任
务必确保工作人员适合并可靠地应对他们所被分配的工作负荷。 AI Foundry 应用企业级信任功能,包括通过 Microsoft Entra 实现的标识管理、基于角色的访问控制 (RBAC)、内容过滤、加密和网络隔离。 选择代理的运行方式和位置 - 使用平台托管或自带基础结构。
6. 可观测性
最后,对代理进行测试和监视。 AI Foundry 可以在每个步骤中捕获日志、跟踪和评估。 借助完整的线程级可见性和 Application Insights 集成,团队可以检查每个决策,并随着时间的推移不断改进代理。
结果? 为生产准备的代理:可靠、可扩展且可以在工作流中安全部署。
为何使用 Azure AI Foundry 代理服务?
Azure AI Foundry 代理服务为在企业环境中部署智能代理提供了生产就绪的基础。 下面介绍了它如何跨关键功能进行比较:
能力 | Azure AI Foundry 代理服务 |
---|---|
1.对于对话的可见性 | 完全访问结构化 线程,包括用户↔代理和代理↔代理消息。 非常适合用于 UI、调试和培训 |
2. 多代理协调 | 对于代理到代理消息传送的内置支持。 |
3. 工具编排 | 在服务器端执行和重试工具调用,并进行结构化日志记录。 无需手动协调。 |
4. 信任和安全 | 集成 内容筛选器 有助于防止滥用并缓解提示注入风险(XPIA)。 所有输出均受策略控制。 |
5. 企业集成 | 自带 存储、 Azure AI 搜索索引和 虚拟网络 以满足合规性需求。 |
6. 可观测性和调试 | 线程、工具调用和消息跟踪是完全可跟踪的;Application Insights 集成用于遥测 |
7. 标识和策略控制 | 基于 Microsoft Entra 构建,完全支持 RBAC、审核日志和企业条件访问。 |
开始使用 Foundry 代理服务
若要开始使用 Foundry 代理服务,需要在 Azure 订阅中创建 Azure AI Foundry 项目。
开始使用 环境设置 和 快速入门 指南(如果这是你第一次使用该服务)。
- 可以使用所需的资源创建项目。
- 创建项目后,可以部署兼容的模型,例如 GPT-4o。
- 如果已部署模型,还可以使用 SDK 开始对服务进行 API 调用。
后续步骤
详细了解支持代理的模型。