你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
本文列出了从 Microsoft Defender for Cloud 获取的 AI 服务以及启用的任何Microsoft Defender 计划的安全警报。 环境中显示的警报取决于要保护的资源和服务以及自定义的配置。
注意
来自不同源的警报可能在不同的时间后出现。 例如，需要分析网络流量的警报的出现时间，可能比虚拟机上运行的可疑进程的相关警报要晚一些。
AI 服务警报
检测到 Azure AI 模型部署上的凭据被盗尝试
（AI.Azure_CredentialTheftAttempt）
说明：凭据盗窃警报旨在当 GenAI 模型内检测到凭据时通知 SOC，以响应用户提示，指示潜在的泄露。 此警报对于检测凭据泄漏或盗窃案例至关重要，这对于生成 AI 来说是唯一的，如果成功，可能会产生严重后果。
MITRE 策略：凭据访问、横向移动、外泄
严重性：中等
Azure AI 内容安全提示防护阻止了对 Azure AI 模型部署的越狱尝试
（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）
说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。 它表示，Azure 负责任的 AI 内容安全（也称为“提示盾牌”）阻止了此类尝试，确保 AI 资源和数据安全的完整性。
MITRE 策略：特权提升、防御规避
严重性：中等
Azure AI 内容安全提示防护检测到对 Azure AI 模型部署的越狱尝试
（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）
说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。 它表示，Azure 负责任的 AI 内容安全（也称为提示防护）检测到此类尝试，但由于内容筛选设置或置信度低而未阻止。
MITRE 策略：特权提升、防御规避
严重性：中等
损坏的 AI 应用程序\模型\数据将钓鱼企图指向用户
（AI.Azure_MaliciousUrl.ModelResponse）
说明：此警报表示组织开发的 AI 应用程序损坏，因为它主动共享了用于与用户进行钓鱼的已知恶意 URL。 URL 源自应用程序本身、AI 模型或应用程序可以访问的数据。
MITRE 策略：影响（污点）
严重性：高
AI 应用程序中共享的网络钓鱼 URL
（AI.Azure_MaliciousUrl.UnknownSource）
说明：此警报指示某个最终用户可能损坏 AI 应用程序或网络钓鱼尝试。 警报确定用于网络钓鱼的恶意 URL 是通过 AI 应用程序传递的，但 URL（用户或应用程序）的来源尚不清楚。
MITRE 策略：影响（污点），集合
严重性：高
AI 应用程序中检测到的网络钓鱼尝试
（AI.Azure_MaliciousUrl.UserPrompt）
说明：此警报指示用户向 AI 应用程序发送了用于钓鱼攻击的 URL。 相关内容通常引诱访问者在看似合法的网站中输入其企业凭据或财务信息。 将其发送到 AI 应用程序可能是为了损坏它、毒害其有权访问的数据源，或通过应用程序的工具获取对员工或其他客户的访问权限。
MITRE 策略：集合
严重性：高
检测到可疑的用户代理
（AI.Azure_AccessFromSuspiciousUserAgent）
说明：访问其中一个 Azure AI 资源的请求的用户代理包含异常值，指示尝试滥用或作资源。 可疑的用户代理已被Microsoft威胁情报映射为恶意意图，因此你的资源可能遭到入侵。
MITRE 策略：执行、侦查、初始访问
严重性：中等
检测到 ASCII Smuggling 提示语注入
（AI.Azure_ASCIISmuggling）
说明：ASCII 走私技术允许攻击者向 AI 模型发送不可见指令。 这些攻击通常归因于间接提示注入，其中恶意威胁参与者正在传递隐藏指令来绕过应用程序和模型防护措施。 鉴于用户在文本中缺乏可见性，并且可能会损害应用程序工具或连接的数据集，这些攻击通常无需用户了解。
MITRE 策略：影响
严重性：高
从 Tor IP 访问
（AI.Azure_AccessFromAnonymizedIP）
说明：Tor 网络的 IP 地址访问了其中一个 AI 资源。 Tor 是一个允许用户访问 Internet 同时隐藏其真实 IP 的网络。 尽管有合法用途，但攻击者经常在联机攻击用户的系统时使用它来隐藏其身份。
MITRE 策略：执行
严重性：高
从可疑 IP 访问
（AI.Azure_AccessFromSuspiciousIP）
说明：访问其中一个 AI 服务的 IP 地址被Microsoft威胁情报识别为具有很高的威胁概率。 在监视恶意 Internet 流量时，发现此 IP 参与攻击了其他联机目标。
MITRE 策略：执行
严重性：高
可疑的钱包攻击 - 定期请求
（AI.Azure_DOWDuplicateRequests）
说明：电子钱包攻击是 AI 资源常见的一系列攻击，由威胁参与者直接或通过应用程序过度接触 AI 资源，希望造成组织巨额财务损失。 此检测跟踪大量针对同一 AI 资源的相同请求，这可能会导致持续攻击。
MITRE 策略：影响
严重性：中等
可疑的钱包攻击 - 卷异常
（AI.Azure_DOWVolumeAnomaly）
说明：电子钱包攻击是 AI 资源常见的一系列攻击，由威胁参与者直接或通过应用程序过度接触 AI 资源，希望造成组织巨额财务损失。 此检测跟踪资源的大量请求和响应，这些请求和响应与其历史使用情况分页不一致。
MITRE 策略：影响
严重性：中等
访问 AI 资源中的异常
（AI.Azure_AccessAnomaly）
说明：此警报跟踪 AI 资源的访问模式中的异常。 用户或应用程序（例如用户代理、IP 范围、身份验证方法等）的请求参数更改可以指示恶意参与者正在访问的已泄露资源。 如果请求表示对特定资源的以前访问模式的重大更改，则当请求有效时，可能会触发此警报。
MITRE 策略：执行、侦查、初始访问
严重性：中等
检测到服务主体对高风险“初始访问”作的可疑调用（AI 资源）
（AI.Azure_AnomalousOperation.InitialAccess）
说明：此警报检测到对订阅中高风险作的可疑调用，这可能表示尝试访问受限资源。 标识的 AI 资源相关作旨在允许管理员有效地访问其环境。 虽然此活动可能是合法的，但威胁参与者可能会利用此类作获得对环境中受限 AI 资源的初始访问权限。 这可能表示该服务主体已泄露并且正在被恶意使用。
MITRE 策略：初始访问
严重性：中等
（预览版）在 AI 资源公开的敏感数据中检测到可疑异常
（AI.Azure_SensitiveDataAnomaly）
说明：此警报研究 AI 资源的敏感数据使用模式，并旨在检测 AI 应用程序何时讨论不模式的敏感数据。 警报查找以前未在模型响应中传递的敏感信息类型，以检测应用程序或数据外泄的可疑行为或意向偏差。 由于此警报旨在检测异常，因此在一段时间内不会针对新资源或新加入的订阅触发异常。
MITRE 策略：集合
严重性：中等
（预览版） 异常工具调用
（AI.Azure_AnomalousToolInvocation）
描述： 此警报分析连接到 Azure OpenAI 模型部署的 AI 应用程序中的异常活动。 应用程序尝试以偏离预期行为的方式调用工具。 此行为可能表示可能滥用或尝试通过应用程序可用的工具之一进行攻击。
MITRE 策略：执行
严重性：低
注意
对于处于预览状态的警报：Azure 预览版补充条款包含适用于 beta 版、预览版或其他尚未正式发布的 Azure 功能的其他法律条款。