Blackhole for Bad Bots
插件用来禁止不遵循 robots 协议的搜索引擎抓取我们不想让他们抓去的内容。该插件的原理是,在 robots.txt
文件中增加一个链接地址,一旦有蜘蛛试图访问这和链接,这个蜘蛛就被禁止访问网站中的其他页面,遵循 robots 协议的蜘蛛自然不会去访问这个链接,可以正常抓取网站允许搜索引擎收录的页面。正常用户看不到这个隐藏的链接,遵循 robots 协议的搜索引擎也不受影响。
功能特色
- 设置简便
- 代码干净
- 基于 WordPress API 开发
- 功能简单专一,不啰嗦
- 轻量级、高性能、高灵活性
- 可以很方便地重置屏蔽的蜘蛛列表
- 可以删除单个被屏蔽的蜘蛛
- 插件通过设置页面设置,不给后台增加
- 安静的在后台工作,不会影响正常用户的访问
- Optionally receive an email alert with WHOIS lookup for blocked bots
- 所有主流搜索引擎已被加入白名单,不会被屏蔽
- 自定义显示给被屏蔽的搜索引擎的消息
- 一键重置插件设置
白名单
默认情况不封锁以下任何一个主流搜索引擎,下面的搜索引擎默认被添加到了插件的白名单中,插件允许在设置中手动添加其他搜索引擎到白名单。
- AOL.com
- Baidu
- Bingbot/MSN
- DuckDuckGo
- Googlebot
- Teoma
- Yahoo!
- Yandex
如果你的网站不是基于 WordPress 构建的,也可以使用该插件的 PHP 版本。
安装,wordpress后台插件搜索安装。