設置爬蟲情報規則
更新時間 2023-12-21 09:44:15
最近更新時間: 2023-12-21 09:44:15
分享文章
本文將介紹爬蟲情報規則,從背景信息、相關配置項、相關操作幫助您更好地理解爬蟲情報規則。
功能介紹
支持針對搜索引擎IP放行、針對惡意Bot請求IP封禁,目前爬蟲情報庫已維護接近10萬條數據
注意
目前控制臺尚未開放爬蟲情報規則功能,如有防護需求請通過提交工單給天翼云客服,由其人工操作開啟。
前提條件
背景信息
邊緣云WAF安全團隊基于天翼云積累的海量威脅情報庫,并經過離線分析技術,收集國內外公開的、已知的惡意爬蟲IP;另外,通過反向解析技術,收錄了眾多SE類別的爬蟲信息,兩者結合形成爬蟲情報庫,內置近10萬條友好爬蟲與已知惡意爬蟲IP信息,目前仍持續更新中。
針對已知爬蟲,邊緣云WAF為爬蟲情報進行標識與分類,例如搜索引擎類的爬蟲,分為谷歌爬蟲、360爬蟲、百度爬蟲等各類標識,您可以僅針對其中的某類搜索引擎標識進行加白的動作,則后續此類爬蟲IP將不經過邊緣云WAF的Bot防護策略。對于惡意爬蟲,您也可以對其進行一鍵封禁的操作,邊緣云WAF將會對其進行攔截,避免網站業務遭受已知惡意爬蟲的攻擊。
相關配置項
| 配置項 | 說明 |
|---|---|
| Bot標識 | 即爬蟲情報庫中的IP標識,例如百度爬蟲、谷歌爬蟲等 |
| 情報類型 | 目前支持收錄已知惡意Bot、搜索引擎、IDC機房三類情報 |
| 執行動作 | 支持對某一類的爬蟲情報及爬蟲標識一鍵加白、攔截、監控j 加白:加白后,訪問將不經過Bot防護策略; 攔截:對IP訪問請求進行攔截處理; 監控:不對請求攔截,但是會生成攻擊日志 |