2023-03-30 分類: 網(wǎng)站建設(shè)
怎么看百度蜘蛛是否來過?怎么正確識(shí)別百度蜘蛛?怎么進(jìn)行蜘蛛的抓取診斷?怎么經(jīng)過百度蜘蛛IP得知網(wǎng)站狀態(tài)?
一、怎么檢查百度蜘蛛是否過來網(wǎng)站
可以經(jīng)過檢查網(wǎng)站日志進(jìn)行剖析。Windows服務(wù)器的IIS與Linux服務(wù)器的apache都有記載網(wǎng)站日志的功用。
二、怎么區(qū)分百度蜘蛛
百度官方給出的區(qū)分百度蜘蛛的辦法如下。
1、檢查UA
首先要UA正確,百度公布過的UA有如下這些。
移動(dòng)UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+)
PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0;+)
新增烘托UA:
移動(dòng)UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143Safari/601.1 (compatible; Baiduspider-render/2.0; +)
PC UA:Mozilla/5.0 (compatible;Baiduspider-render/2.0; +)
三、怎么經(jīng)過百度蜘蛛IP得知網(wǎng)站狀態(tài)
1、抓取你網(wǎng)站的網(wǎng)頁蜘蛛
60.172.229.61
61.129.45.72
61.135.162.*
2、百度競價(jià)蜘蛛
61.135.165.134
117.34.74.66
118.122.188.194
119.63.196.9
125.39.78.185
3、百度統(tǒng)計(jì)的蜘蛛
61.135.186.*
4、站長東西的仿照的百度蜘蛛
61.147.98.146
61.188.39.16
113.98.254.245
117.21.220.245
117.28.255.42
5、搜外站長東西的仿照的百度蜘蛛
124.248.34.52
6、114站長東西箱仿照的百度蜘蛛
119.147.114.213
121.10.141.*
7、百度圖片蜘蛛
123.15.**.**
8、抓取網(wǎng)站內(nèi)頁錄入的權(quán)重較低的非原創(chuàng),需要經(jīng)過一段時(shí)間調(diào)查
123.125.71.*
9、站長東西檢測(cè)造成的無用
125.90.88.*
10、百度調(diào)查期蜘蛛或降權(quán)蜘蛛
159.226.50.*
180.76.5.*
180.76.5.87
220.181.158.107
11、假裝百度蜘蛛
180.149.130.*
12、新站及站點(diǎn)有不正?,F(xiàn)象
183.91.40.144
203.208.60.*
13、不間斷巡查各站就是路過
210.72.225.*
14、沙盒或者有被K站
123.125.68.*
218.30.118.102
220.181.68.*
15、此ip爬過的文章或首頁,肯定24小時(shí)內(nèi)放出來和隔夜快照
220.181.108.*
16、百度蜘蛛IP來過,預(yù)備抓取
123.125.66.*
220.181.7.*
17、度過新站調(diào)查期
121.14.89.*
18、百度抓取首頁的專用IP,網(wǎng)站首頁快照更新快,隔夜更新
220.181.108.95
19、百度的權(quán)重IP段,抓取的文章第二天放出來,權(quán)重較高
220.181.108.92
20、綜合性權(quán)重IP,抓取文章和首頁,權(quán)重較高
220.181.108.91
220.181.108.75
21、抓取內(nèi)頁錄入的,但權(quán)重較低
123.125.71.95
123.125.71.97
123.181.108.77
123.125.71.106
22、抓取網(wǎng)站首頁的,也屬于權(quán)重段,權(quán)重較高。
220.181.108.89
220.181.108.94
220.181.108.97
220.181.108.80
220.181.108.77
220.181.108.83
220.181.108.86
網(wǎng)站題目:百度搜索引擎蜘蛛剖析
當(dāng)前URL:http://m.rwnh.cn/news13/248863.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供小程序開發(fā)、定制網(wǎng)站、網(wǎng)站策劃、虛擬主機(jī)、ChatGPT、商城網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容