你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
重要
本文中标记了“(预览版)”的项目目前为公共预览版。 此预览版未提供服务级别协议,不建议将其用于生产工作负载。 某些功能可能不受支持或者受限。 有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款。
由于 AI 行业的复杂性和快速发展,监视生成 AI 应用程序从未变得更加重要。 Azure AI Foundry Observability 与 Azure Monitor Application Insights 集成,使你能够持续监视已部署的 AI 应用程序,以确保它们在生产环境中具有高性能、安全且产生高质量的结果。 除了持续监视功能外,我们还 为代理提供持续评估功能 ,以进一步增强 Foundry 可观测性仪表板,并深入了解其他关键质量和安全指标。
注释
必须使用 Foundry 项目来实现此功能。 不支持 基于中心的项目 。 请参阅 如何知道我拥有哪种类型的项目? 并 创建 Foundry 项目。
如何启用监视
若要在 Azure AI Foundry 中使用监视功能,需要将 Application Insights 资源连接到 Azure AI Foundry 项目。
- 在 Azure AI Foundry 门户的左侧导航窗格中导航到 监控。
- 选择 “应用程序分析 ”选项卡。
- 如果还没有 Application Insights 资源,请创建新的 Application Insights 资源。
- 将资源连接到 AI Foundry 项目。
收集用于监视的生产数据
从这里开始,您应该开始收集应用程序的遥测数据,以便在我们的内置视图中进行监视。 为此,我们建议:
通过检测跟踪,可以从应用程序中捕获详细的遥测数据。 此数据提供对生产环境中应用程序的性能、延迟和行为的见解。
持续评估 通过根据预定义指标和阈值评估产出,帮助监视您代理在生产中的质量和安全。
查看监视结果
在 Azure AI Foundry 门户中, 应用程序分析 仪表板视图使用 来自 Azure Monitor Application Insights 的信号,通过 Azure 工作簿 对其进行查询并创建可视化效果。
这些视图旨在将关键指标(令牌消耗、延迟、异常、响应质量)引入单一玻璃窗格,使团队能够跟踪运营运行状况和质量、了解趋势并持续评估以提高其应用程序。
按照以下步骤访问和使用 AI Foundry 项目中的内置监视视图:
- 在 Azure AI Foundry 门户中访问您的 AI Foundry 项目。
- 从左侧导航窗格中选择 “监视 ”。
- 在 “应用程序分析 ”选项卡下,查看应用程序的运行状况概述。
- 使用筛选器指定时间范围、应用程序和/或模型来提取详细的见解。
- 如果发现问题(如质量指标下降),请转到 跟踪 以 调试应用程序中的问题。
- 若要进一步自定义监视体验并使用 Azure Monitor 中的高级功能,请滚动到底部并选择 “在 Azure Monitor Application Insights 中查看”。
注释
当你与团队成员共享此工作簿时,他们必须至少对连接的 Application Insights 资源具有“读取者”角色才能查看显示的信息。
自定义和共享仪表板
Application Insights 是用于应用程序性能监视(APM)的强大工具,可深入了解应用程序的运行状况和性能。
可以通过选择页面末尾的“在 Azure Monitor Application Insights 中查看”链接,在 Azure Monitor 应用程序见解工作簿库中打开应用程序分析仪表板。
此仪表板作为可编辑的工作簿打开,可在其中自定义工作簿并根据需要保存。
使用 Kusto 查询语言(KQL)浏览和分析
KQL(Kusto 查询语言) 是一种功能强大的查询语言,用于浏览、分析和可视化大量遥测和日志数据。
在 应用程序分析 仪表板视图中,可以通过选择特定磁贴或图表右上角的图标 来打开查询链接 。
选择后,可以查看并运行支持监视视图的相同 KQL 查询,并深入了解相关数据。
设置 Azure 警报
可以根据以前的 KQL 查询定义 Azure 警报规则,以在将来主动检测生产后作的问题。 选择 ... 以查看更多选项,例如 “新建警报规则”。
在“ 新建警报规则 ”按钮上选择会打开一个向导,以在相关信号上创建警报规则。
若要详细了解如何设置和管理 Azure 警报以主动解决问题,请参阅 Azure Monitor 中的警报。