本人有一个 小网站，后台可以查看蜘蛛数据，经常发现有许多国外蜘蛛爬取。作为一个面向国内特定地域用户的网站，着实用不着那些蜘蛛来消耗资源，网上找到一段Nginx配置代码，加上后很灵敏，那些国外蜘蛛第二天就不来了。
if ($http_user_agent ~* (SemrushBot|python|Linespider|crawler|DingTalkBot|simplecrawler|ZoominfoBot|zoombot|Neevabot|coccocbot|Facebot|YandexBot|Adsbot|DotBot|Applebot|DataForSeoBot|MJ12bot|BLEXBot|trendictionbot0|trendictionbot|AhrefsBot|hubspot|opensiteexplorer|leiki|webmeup)) { return 444;
}不过这几天又冒出来许多莫名其妙的蜘蛛，以114.119和114.225IP段开头，查询IP地址为新加坡华为云，例如
由于都是华为云IP，网上搜素华为蜘蛛相关关键词，找到一篇文章：华为搜索爬虫不遵守协议高频抓爬如DDoS攻击让国内外许多网站痛苦不堪
看来华为蜘蛛黑历史早就有之。然后我查看网站log，发现该蜘蛛名字为PetalBot，中文名翻译过来就是华为花瓣搜索引擎蜘蛛。PetalBot介绍参考资料
版权声明：本文由三循信息发布，如需转载请注明出处，如需分享可点击上方生成海报按钮。
相关文章
关于国内运营网站需要ICP许可证、EDI许可证等证件的说明
许多做网站的同学对在国内合法开办网站需要哪些证件可能不是很清楚，下面做一个总结：ICP许可证：主要用作于信息发布及经营性收付费功能的网站;EDI许可证：用作于电商类网站，具有第三方商家入驻的功能;呼叫中心业务许可证：用作于坐席外包，电话外呼...
pbootcms多语言建站常见问题（转载）
一、如何搭建多语言站？多语言/区域建站用于使用同一个后台建立多语言网站。1、使用步骤1）在后台”系统管理>数据区域”添加相应的区域，具体参考默认区域；2）将多语言的模板放入模板目录，不同语言的模板均放在template目录下；3）在后...
PbootCMS模板主题可用标签大全（PbootCMS仿站必备标签）
以下为PbootCMS网站模板可用标签收集整理大全，免费分享1、公司信息标签适用范围：全站任意地方均可使用。标签作用：用于调取网站与公司相关的信息，对应后台的“基础内容>公司信息”。{pboot:companyname}公司名称{pb...
html5实现字幕滚动代码
网站需要做个字幕滚动效果，以前的marquee写法已过时，网上找了个纯html写法，JS也不需要，比较满意。<!doctype html> <html> <head> <meta&n...
Zblog搜索无结果时增加一个友好提示
Zblog是个不错的博客程序，但官方不知道怎么回事不去用心完善一些基本功能，我使用时就频频发现一些缺陷bug，都有些怀疑官方故意如此是为了卖付费插件增加收入。上次发了通过修改js文件，避免前台空搜索bug的解决办法。还有一个不大不小的问题，...
互联网项目引流的指导思想和误区
本文源自义乌之狼微信群内一个群友分享的三张引流图片，觉得挺有价值，特在此分享。一、引流指导思想1.1引流（革命）思想，指导路线革命指导思想--农村包围城市，武装夺取政权；引流指导思想-广告化（形式）策略，流水化（批量）生产。1.2思想策略，...
发表评论
- 热门阅读
-
-
6703 浏览其他杂项
-
6599 浏览其他杂项
5997 浏览其他杂项
5331 浏览网络日记
5313 浏览Zblog相关
- 热评文章
-
0 评论PC软件
0 评论Discuz点微
0 评论其他杂项
0 评论其他杂项
-
0 评论其他杂项
