操作場景
AI風險概覽實時為您呈現大模型合規態勢，支持大模型的數據語料風險運營、推理業務風險運營和環境安全風險運營，實時呈現大模型的風險概覽，助您識別大模型風險和潛在威脅。
推理安全：基于WAF攻擊日志和訪問日志，分析呈現大模型接口的調用請求次數、調用請求命中防護策略數、以及命中防護策略數排名前5的推理模型域名和數量、提示詞注入的攻擊分布、推理模型攻擊類型分布等。
語料安全：基于DSC告警日志，分析呈現大模型中的語料風險類別和數量、TOP5語料風險資產分布等。
環境安全：基于態勢感知（專業版）基線檢查、漏洞管理、告警管理功能，分析呈現當前工作空間的TOP5合規檢查風險、TOP5漏洞風險、TOP5告警和最近攻擊列表。
前提條件
推理安全依賴Web應用防火墻 WAF服務，在使用AI風險概覽的推理安全功能模塊前需要確保Web應用防火墻 WAF服務在有效使用期內，且僅WAF云模式支持。
語料安全依賴數據安全中心DSC服務，在使用AI風險概覽的語料安全功能模塊前需要確保大模型數據安全防護在有效使用期內。
已經在態勢感知（專業版）控制臺接入“WAF攻擊日志”，“WAF訪問日志”和“DSC告警日志”。接入云服務日志請參見接入日志數據。
僅態勢感知（專業版）專業版支持。
查看AI風險概覽
登錄管理控制臺。
單擊頁面左上方的
，選擇“安全 > 態勢感知（專業版）”，進入態勢感知（專業版）管理頁面。
在左側導航欄選擇“工作空間 > 空間管理”，并在工作空間列表中，單擊目標工作空間名稱，進入目標工作空間管理頁面。
在左側導航欄選擇“態勢感知 > AI風險概覽”，進入AI風險概覽頁面。
在AI風險概覽頁面，可查看以下信息：
模塊 參數名稱 參數說明 統計時間 統計時間 支持用戶選擇或自定義查看的概覽的時間，支持選擇范圍如下：
- 近24小時
- 近3天
- 近7天
- 近30天
- 自定義：用戶自定義起止時間范圍。
推理安全 推理安全風險匯總 推理安全模塊呈現所設置的統計時間周期內大模型推理業務風險運營的結果：
- 請求總數：WAF請求日志中大模型接口調用的請求次數總和。
- 命中防護策略數：WAF攻擊日志中告警類型為提示詞注入攻擊、提示詞內容合規、響應內容合規數量總和。
- 提示詞注入攻擊次數：WAF攻擊日志中提示詞攻擊數量總和。
- 提示詞內容合規次數：WAF攻擊日志中提示詞內容合規數量總和
- 響應內容合規次數：WAF攻擊日志中響應內容合規次數總和。
請求趨勢 請求趨勢呈現“總請求數”和“命中防護策略數”指標隨時間的變化趨勢，實時更新。其中
- 總請求數：WAF請求日志中大模型接口調用的請求數量。
- 命中防護策略數：WAF攻擊日志中告警類型為提示詞注入攻擊、提示詞內容合規、響應內容合規數量總和。
TOP5資產風險分布 WAF攻擊日志中，根據推理模型域名分組求和，展示命中防護策略數中排名前5的推理模型域名及數量。 提示詞注入攻擊分布 WAF攻擊日志中提示詞注入攻擊類型為越獄攻擊、提示詞泄露、角色扮演、不安全的指令話題、不安全的觀點、反向誘導、政治敏感、合規敏感、個人隱私數據的分類數量統計。 大模型攻擊類型分布 WAF攻擊日志中告警類型為提示詞注入、提示詞內容合規、響應內容合規三種類型的告警分類數量統計。 語料安全 TOP5語料資產風險分布 DSC攻擊日志中根據上報告警的OBS桶ID分組求和，展示前5的桶名及數量。 文本風險類別 DSC攻擊日志中文本風險類型為個人隱私敏感、內容合規敏感類型、來源或版權不合規三種類型的分類數量統計。 環境安全 TOP5合規檢查 按照合規檢查受影響資產數量排序，呈現TOP5影響資產數最多的5個不合規風險項。 TOP5漏洞風險 按照漏洞的風險等級排序展示用戶設定的AI風險概覽“統計時間”內的TOP5漏洞，若漏洞的風險等級相同則按照漏洞名稱排序。 TOP5告警 按照告警的發現時間展示最近發生的5個告警。 最近攻擊清單 基于用戶設定的AI風險概覽“統計時間”展示攻擊列表。
