曾经经历过这样的事情吗?到google上搜索某一关键词,google返回了很多结果,但是如果你试图打开某一个结果,查看内容是,却看到了一个注册页面,除非你填写信用卡信息才能看到你想看的内容。很显然,google可以查看你想看的信息,但是你不能!这个网站给google留了后门,能找到这个后门吗,当然可以!
只要假装你就是google就可以了。
我们知道搜索引擎的蜘蛛(或称为机器人,爬虫等) 和普通的用户一样也是通过抓取网页,索引网页到自己的数据库,才能为用户提供搜索服务的。google的蜘蛛叫做Googlebot,百度的蜘蛛叫做BaiDuSpider。
实际上很多网站虽然强制用户注册,登录,但是为了从google或百度上吸引流量,都为google和百度留了后门,这样才能从搜索引擎上吸引更多的用户过来。
我知道的这样的网站包括Windows Magazine, .Net Magazine, Nature和很多新闻报纸网站。
现在问题就是我们可以伪装成Googlebot,或BaiDuSpider吗?
当然可以,而且很简单请看下面:
IE用户
复制下面的代码到记事本,另存为UserAgent.reg(注意扩展名,记事本自动保存扩展名为.txt) 。
======================================================
Windows Registry Editor Version 5.00
[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Internet Settings\5.0\User Agent]
@="Googlebot/2.1"
"Compatible"="+
http://www.googlebot.com/bot.html"
======================================================
ok,现在试试浏览你想看的网站,有没有新的发现呢?
但是有时候我们还需要改回去,因为像windows update之类的网站会根据你的user agent类型提供不同的服务。改回去也很简单,复制下面的代码到记事本,另存为NormalAgent.txt(注意扩展名,记事本自动保存扩展名为.txt)。
======================================================
Windows Registry Editor Version 5.00
[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Internet Settings\5.0\User Agent]
@="Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)"
======================================================
firefox的用户
请到这里下载User Agent Switcher
https://addons.mozilla.org/en-US/firefox/addon/59
,然后根据说明自己把和Googlebot和 BaiDuSpider
的信息添加进去就可以随意切换了