1、記錄搜索引擎蜘蛛的不重復(fù)抓取量
上一步我們把蜘蛛的抓取量數(shù)據(jù)給分析出來了,然后我們要進(jìn)行去重,也就是搜索引擎的唯一不重復(fù)抓取量,其實(shí)對于收錄來說,許多頁面只要抓取一次就可以了,可是在實(shí)際操作的過程當(dāng)中,許多頁面都是被重復(fù)抓取的,谷歌的技術(shù)比較先進(jìn)一些,重復(fù)抓取率也許會低一些,可是百度等搜索引擎,重復(fù)抓取率卻非常高,你通過日志分析就可以看出來了,一天如果抓取量上百萬,可能好幾萬次都是抓取首頁的,所以許多數(shù)據(jù)你一定要去分析的,當(dāng)你分析了后,你才會知道問題的嚴(yán)重性。
2、每個目錄、每個搜索引擎的抓取量
上邊兩步把總體抓取量、不重復(fù)抓取量記錄下來了,然后我們要分析出每個搜索引擎對每一個目錄的抓取情況是怎么樣的,這樣利于進(jìn)行分塊優(yōu)化,例如當(dāng)你網(wǎng)站流量上升時,你可以知道是哪個目錄的流量上升了,然后再往下推,看看是哪個目錄的抓取量上升了,哪個目錄的抓取量下降了,為什么下降,都可以進(jìn)行分析的,然后在網(wǎng)站中進(jìn)行適當(dāng)?shù)逆溄咏Y(jié)構(gòu)調(diào)整,例如使用nofollow標(biāo)簽等。
3、每個搜索引擎的總體抓取量(以及趨勢)
在日志文件中,明確的記錄了每個搜索引擎的抓取量,例如百度、谷歌、搜狗等搜索引擎的抓取記錄,我們都可以進(jìn)行記錄,使用DOS命令或者Linux命令都可以去實(shí)現(xiàn)的,搜索引擎的收錄是由抓取量以及文章質(zhì)量來決定的,當(dāng)文章質(zhì)量不變的情況下,蜘蛛抓取量越大,那么收錄的就會越多,我們在進(jìn)行日志分析 時候,一定要清楚的知道蜘蛛每天的抓取量到底是一個什么情況,而且每天都要記錄,也許絕對值說明不了什么,我們可以去看它的趨勢,當(dāng)某一天抓取量的趨勢在下降時,我們就要去找原因了。
4、統(tǒng)計搜索引擎蜘蛛來的次數(shù)、來的時間
我們可以使用一些日志分析工具,設(shè)定一個標(biāo)準(zhǔn),例如光年日志分析工具,可以統(tǒng)計出每個搜索引擎蜘蛛每天來的次數(shù),一天一共在我們網(wǎng)站停留了多久,有沒有IP蜘蛛一天24小時都在我們網(wǎng)站不停的抓取,這樣的蜘蛛越多越好,往往是你網(wǎng)站權(quán)重提升的表現(xiàn)。這樣的數(shù)據(jù)可以每天都記錄下來,在一定的時間段內(nèi),進(jìn)行對比分析,看看停留的時間是不是增加了,來的次數(shù)是不是增多了,這樣可以判斷出網(wǎng)站權(quán)重是上升還是下降。
5、統(tǒng)計搜索引擎抓取的狀態(tài)碼
當(dāng)搜索引擎抓取了你的頁面后,不但抓取了你的內(nèi)容,而且還會有一個抓取返回碼的,這些返回碼我們要記錄下來,特別是一些類似301、404、500等這些狀態(tài)碼,我們從這些狀態(tài)碼中我們找出網(wǎng)站的一些潛在的問題,例如為什么會出現(xiàn)很多404頁面,是程序原因,還是搜索引擎在抓取外鏈的時候提取錯誤,其實(shí)我們可以在谷歌管理員工具中看到這些數(shù)據(jù)的,里邊還會提示你的錯誤的404頁面出現(xiàn)在哪里,對于一些301狀態(tài)碼我們也要注意了,看下這些301是不是按照我們所希望的那樣跳轉(zhuǎn)的,網(wǎng)站中要盡量的少用跳轉(zhuǎn),頁面在跳轉(zhuǎn)的時候,往往會延長頁面的加載時間,最常見的301可能就是網(wǎng)頁URL不帶"/"的跳轉(zhuǎn)到帶“/”的情況了,我們在網(wǎng)站中,要盡量的避免出現(xiàn)這樣的情況。
長沙科聯(lián)環(huán)?萍加邢薰
長沙科聯(lián)環(huán)保科技有限公司坐落于國家級長沙經(jīng)濟(jì)技術(shù)開發(fā)區(qū),星沙工業(yè)園、我們以“科技創(chuàng)新,聯(lián)合共...南京尚上防腐木
南京尚上防腐木是一家專業(yè)致力于加工、制作、銷售戶外景觀防腐木,并為客戶設(shè)計安裝一站式服務(wù)的現(xiàn)...長沙昱霆機(jī)電有限公司
長沙昱霆機(jī)電有限公司是長沙空壓機(jī)_長沙空壓機(jī)保養(yǎng)_湖南空壓機(jī)維修_長沙空壓機(jī)機(jī)頭維修-長沙昱...湖南省土地學(xué)會,湖南土地學(xué)會,湖南土地學(xué)會官網(wǎng)
湖南省土地學(xué)會是全省土地科技工作者自愿組成,并依法登記的學(xué)術(shù)性、非盈利性、公益性的法人社會團(tuán)...湖南為美環(huán)保技術(shù)有限公司,醫(yī)療污水凈化機(jī)組...
湖南為美環(huán)保技術(shù)有限公司應(yīng)“綠水青山就是金山銀山”之勢而生,秉持“為民環(huán)保,美麗干凈”理想信...長沙租車公司-長沙鑫晨租車
長沙鑫晨租車(長沙租車網(wǎng))于2008年,已精工細(xì)作多年,F(xiàn)以成為長沙地區(qū)較早的租車公司之一。...聯(lián)系方式
地址:湖南省長沙市天心區(qū)韶山南路248號南園503室
電話:13637482004 0731-88571521
網(wǎng)址:http:///
郵箱:123@123007.com
微信咨詢
掃一掃進(jìn)移動端