今天跟蜘蛛们干上了=.= （转）蜘蛛IP是多少？如何查看蜘蛛是否光临
什么是baiduspider？
baiduspider是百度搜索引擎的一个自动程序。它的作用是访问互联网上的html网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站的网页。
baiduspider对一个网站服务器造成的访问压力如何？
baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后，baiduspider会暂停一会，以防止增大服务器的访问压力。所以在一般情况下，baiduspider对您网站的服务器不会造成过大压力。
为什么baiduspider不停的抓取我的网站？
对于您网站上新产生的或者持续更新的页面，baiduspider会持续抓取。此外，您也可以检查网站访问日志中baiduspider的访问是否正常，以防止有人恶意冒充baiduspider来频繁抓取您的网站。如果您发现baiduspider非正常抓取您的网站，请反馈，并请尽量给出baiduspider对贵站的访问日志，以便于我们跟踪处理。
我不想我的网站被baiduspider访问，我该怎么做？
baiduspider遵守互联网robots协议。您可以利用robots.txt文件完全禁止baiduspider访问您的网站，或者禁止baiduspider访问您网站上的部分文件。注意：禁止baiduspider访问您的网站，将使您的网站上的网页，在百度搜索引擎以及所有百度提供搜索引擎服务的搜索引擎中无法被搜索到。
关于robots.txt的写作方法，请参看我们的介绍：robots.txt写作方法
为什么我的网站已经加了robots.txt，还能在百度搜索出来？
因为搜索引擎索引数据库的更新需要时间。虽然baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要二至四周才会清除。另外也请检查您的robots配置是否正确。
百度蜘蛛在robots.txt中的名字是什么？
“baiduspider”全部为小写字母。
baiduspider多长时间之后会重新抓取我的网页？
百度搜索引擎每周更新，网页视重要性有不同的更新率，频率在几天至一月之间，baiduspider会重新访问和更新一个网页。
知道了什么是百度蜘蛛，那么怎么才能知道蜘蛛是否来过你的站？这个可以从你服务器或者虚拟主机的日志中看出来，比如我用的虚拟主机的完整使用日志中有这样的记录：
220.181.38.198--[11/Nov/2007:04:28:29+0800]"GET/HTTP/1.1"20061083"-""Baiduspider"这就说明百度蜘蛛来过我的站了，如果你还想知道有没有其它搜索引擎的蜘蛛来过你的站，你可以在日志文件中搜索“spider”这个词，或者搜索蜘蛛的IP，我的就查到sogou也来过我的站，IIS日志与Apache的日志是一样的，都可以查到。
各类蜘蛛IP收集，不一定完全准确。
序号IP注释
1202.106.186.*163蜘蛛
2202.108.36.*163蜘蛛
3202.108.44.*163蜘蛛
4202.108.45.*163蜘蛛
5202.108.5.*163蜘蛛
6202.108.9.*163蜘蛛
7220.181.12.*163蜘蛛
8220.181.13.*163蜘蛛
9220.181.14.*163蜘蛛
10220.181.15.*163蜘蛛
11220.181.28.*163蜘蛛
12220.181.31.*163蜘蛛
13222.185.245.*163蜘蛛
14202.165.100.*3721蜘蛛
15220.181.19.*百度蜘蛛
16159.226.50.*百度蜘蛛
17202.108.11.*百度蜘蛛
18202.108.22.*百度蜘蛛
19202.108.23.*百度蜘蛛
20202.108.249.*百度蜘蛛
21202.108.250.*百度蜘蛛
2261.135.145.*百度蜘蛛
2361.135.146.*百度蜘蛛
2464.124.85.*become.com
2561.151.243.*china蜘蛛
26202.165.96.*gais.cs.ccu.edu.tw
27216.239.33.*google蜘蛛
28216.239.35.*google蜘蛛
29216.239.37.*google蜘蛛
30216.239.39.*google蜘蛛
31216.239.51.*google蜘蛛
32216.239.53.*google蜘蛛
33216.239.55.*google蜘蛛
34216.239.57.*google蜘蛛
35216.239.59.*google蜘蛛
3664.233.161.*google蜘蛛
3764.233.189.*google蜘蛛
3866.102.11.*google蜘蛛
3966.102.7.*google蜘蛛
4066.102.9.*google蜘蛛
4166.249.64.*google蜘蛛
4266.249.65.*google蜘蛛
4366.249.66.*google蜘蛛
4466.249.71.*google蜘蛛
4566.249.72.*google蜘蛛
4672.14.207.*google蜘蛛
4761.135.152.*iask蜘蛛
4865.54.188.*msn蜘蛛
4965.54.225.*msn蜘蛛
5065.54.226.*msn蜘蛛
5165.54.228.*msn蜘蛛
5265.54.229.*msn蜘蛛
53207.46.98.*msn蜘蛛
54207.68.157.*msn蜘蛛
55194.224.199.*noxtrumbot
56220.181.8.*Outfox
57221.239.209.*Outfox
58217.212.224.*psbot
59219.133.40.*QQ蜘蛛
60202.96.170.*QQ蜘蛛
61202.104.129.*QQ蜘蛛
6261.135.157.*QQ蜘蛛
63219.142.118.*sina蜘蛛
64219.142.78.*sina蜘蛛
6561.135.132.*sohu蜘蛛
66220.181.26.*sohu蜘蛛
220.181.19.*
6761.135.158.*tom蜘蛛
6866.196.90.*yahoo蜘蛛
6966.196.91.*yahoo蜘蛛
7068.142.249.*yahoo蜘蛛
7168.142.250.*yahoo蜘蛛
7268.142.251.*yahoo蜘蛛
73202.165.102.*yahoo中国蜘蛛
74202.160.178.*yahoo中国蜘蛛
75202.160.179.*yahoo中国蜘蛛
76202.160.180.*yahoo中国蜘蛛
77202.160.181.*yahoo中国蜘蛛
78202.160.183.*yahoo中国蜘蛛
7972.30.101.*yahoo蜘蛛
8072.30.102.*yahoo蜘蛛
8172.30.103.*yahoo蜘蛛
8272.30.104.*yahoo蜘蛛
8372.30.107.*yahoo蜘蛛
8472.30.110.*yahoo蜘蛛
8572.30.111.*yahoo蜘蛛
8672.30.128.*yahoo蜘蛛
8772.30.129.*yahoo蜘蛛
8872.30.131.*yahoo蜘蛛
8972.30.133.*yahoo蜘蛛
9072.30.134.*yahoo蜘蛛
9172.30.135.*yahoo蜘蛛
9272.30.216.*yahoo蜘蛛
9372.30.226.*yahoo蜘蛛
9472.30.252.*yahoo蜘蛛
9572.30.97.*yahoo蜘蛛
9672.30.98.*yahoo蜘蛛
9772.30.99.*yahoo蜘蛛
9874.6.74.*yahoo蜘蛛
99202.108.4.*中搜蜘蛛
100202.108.4.*中搜蜘蛛
101202.108.33.*中搜蜘蛛
102202.96.51.*中搜蜘蛛
103219.142.53.*中搜蜘蛛
[/td][/tr]
欣欣5202008-1-317:38
序号IP注释
1202.106.186163
2202.108.36163
3202.108.44163
4202.108.45163
5202.108.5163
6202.108.9163
7220.181.12163
8220.181.13163
9220.181.14163
10220.181.15163
11220.181.28163
12220.181.31163
13222.185.245163
14202.165.1003721
15220.181.19baidu
16159.226.50baidu
17202.108.11baidu
18202.108.22baidu
19202.108.23baidu
20202.108.249baidu
21202.108.250baidu
2261.135.145baidu
2361.135.146baidu
2464.124.85become.com
2561.151.243china
26202.165.96gais.cs.ccu.edu.tw
27216.239.33google
28216.239.35google
29216.239.37google
30216.239.39google
31216.239.51google
32216.239.53google
33216.239.55google
34216.239.57google
35216.239.59google
3664.233.161google
3764.233.189google
3866.102.11google
3966.102.7google
4066.102.9google
4166.249.64google
4266.249.65google
4366.249.66google
4466.249.71google
4566.249.72google
4672.14.207google
4761.135.152iask
4865.54.188msn
4965.54.225msn
5065.54.226msn
5165.54.228msn
5265.54.229msn
53207.46.98msn
54207.68.157msn
55194.224.199noxtrumbot
56220.181.8Outfox
57221.239.209Outfox
58217.212.224psbot
59219.133.40QQ
60202.96.170QQ
61202.104.129QQ
6261.135.157QQ
63219.142.118sina
64219.142.78sina
6561.135.132sohu
66220.181.26sohu
6761.135.158tom
6866.196.90yahoo
6966.196.91yahoo
7068.142.249yahoo
7168.142.250yahoo
7268.142.251yahoo
73202.165.102yahoo
74202.160.178yahoo
75202.160.179yahoo
76202.160.180yahoo
77202.160.181yahoo
78202.160.183yahoo
7972.30.101yahoo
8072.30.102yahoo
8172.30.103yahoo
8272.30.104yahoo
8372.30.107yahoo
8472.30.110yahoo
8572.30.111yahoo
8672.30.128yahoo
8772.30.129yahoo
8872.30.131yahoo
8972.30.133yahoo
9072.30.134yahoo
9172.30.135Yahoo
9272.30.216yahoo
9372.30.226yahoo
9472.30.252yahoo
9572.30.97yahoo
9672.30.98yahoo
9772.30.99yahoo
9874.6.74yahoo
99202.108.4zhongsou
100202.108.33zhongsou
101202.96.51zhongsou
102219.142.53zhongsou
－－－－－－－－－－－－－百度－－－－－－－－－－－－－
31.135.145.*
61.135.145.*
61.135.146.*
159.226.50.*
202.108.11.*
202.108.22.*
202.108.23.*
202.108.249.*
202.108.250.*
220.181.19.*
－－－－－－－－－－－－－雅虎中国－－－－－－－－－－－－－
66.196.90.*
66.196.91.*
68.142.249.*
68.142.250.*
68.142.251.*
72.30.101.*
72.30.102.*
72.30.103.*
72.30.104.*
72.30.107.*
72.30.110.*
72.30.111.*
72.30.128.*
72.30.129.*
72.30.131.*
72.30.133.*
72.30.134.*
72.30.135.*
72.30.216.*
72.30.226.*
72.30.252.*
72.30.97.*
72.30.98.*
72.30.99.*
74.6.74.*
202.165.102.*
202.160.178.*
202.160.179.*
202.160.180.*
202.160.181.*
202.160.183.*
－－－－－－－－－－－－－Google－－－－－－－－－－－－－
64.233.161.*
64.233.189.*
66.102.11.*
66.102.7.*
66.102.9.*
66.249.64.*
66.249.65.*
66.249.66.*
66.249.71.*
66.249.72.*
72.14.207.*
216.239.33.*
216.239.35.*
216.239.37.*
216.239.39.*
216.239.51.*
216.239.53.*
216.239.55.*
216.239.57.*
216.239.59.*
－－－－－－－－－－－－－MSN－－－－－－－－－－－－－
65.54.188.*
65.54.225.*
65.54.226.*
65.54.228.*
65.54.229.*
207.46.98.*
207.68.157.*
－－－－－－－－－－－－－中搜－－－－－－－－－－－－－
202.108.1.*
202.108.2.*
202.108.3.*
202.108.4.*
202.108.33.*
202.96.51.*
219.142.53.*
－－－－－－－－－－－－－QQ－－－－－－－－－－－－－
219.133.40.*
202.96.170.*
202.104.129.*
61.135.157.*
－－－－－－－－－－－－－163－－－－－－－－－－－－－
202.106.186.*
202.108.36.*
202.108.44.*
202.108.45.*
202.108.5.*
202.108.9.*
220.181.12.*
220.181.13.*
220.181.14.*
220.181.15.*
220.181.28.*
220.181.31.*
222.185.245.*
－－－－－－－－－－－－－其他－－－－－－－－－－－－－
64.124.85.*become.com
61.151.243.*china
202.165.96.*gais.cs.ccu.edu.tw
61.135.152.*iask
194.224.199.*noxtrumbot
220.181.8.*Outfox
221.239.209.*Outfox
217.212.224.*psbot
219.142.118.*sina
219.142.78.*sina
61.135.132.*sohu
220.181.26.*sohu
61.135.158.*tom
