-
屏蔽不遵循 robots 协议的搜索引擎蜘蛛抓取网站页面的插件-Blackhole for Bad Bots
Blackhole for Bad Bots 插件用来禁止不遵循 robots 协议的搜索引擎抓取我们不想让他们抓去的内容。该插件的原理是,在 robots.txt 文件中增加一个链接地址,一旦有蜘蛛试图访问这和链接,这个蜘蛛就被禁止访问网站中的其他页面,遵循 robots 协议的蜘蛛自然不会去访问这个链接,可以正常抓取网站允许搜索引擎收录的页面。正常用户看不到这个隐藏的链接,遵循 robots …- 4.8k
- 0
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
ฅ优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!