網站優化中對蜘蛛抓取你了解多少？

2020-08-25 18:27:11

字體：大中小

來源：轉載

供稿：網友

網站優化中對蜘蛛抓取你了解多少?我們都知道百度權重是根據百度蜘蛛抓取后反饋這個網站得出的結果，很多做網站優化的人都在研究蜘蛛抓取的規律，當然網上也有很多的相關介紹，這里為大家介紹一下網站優化的蜘蛛抓取。

　　抓取需求

　　抓取需求，crawl demand，指的是搜索引擎“想”抓取特定網站多少頁面。

　　決定抓取需求的主要有兩個因素。一是頁面權重，網站上有多少頁面達到了基本頁面權重，搜索引擎就想抓取多少頁面。二是索引庫里頁面是否太久沒更新了。說到底還是頁面權重，權重高的頁面就不會太久不更新。

　　頁面權重和網站權重又是息息相關的，提高網站權重，就能使搜索引擎愿意多抓取頁面。

　　抓取速度限制

　　搜索引擎蜘蛛不會為了抓取更多頁面，把人家網站服務器拖垮，所以對某個網站都會設定一個抓取速度的上限，crawl rate limit，也就是服務器能承受的上限，在這個速度限制內，蜘蛛抓取不會拖慢服務器、影響用戶訪問。

　　服務器反應速度夠快，這個速度限制就上調一點，抓取加快，服務器反應速度下降，速度限制跟著下降，抓取減慢，甚至停止抓取。

　　所以，抓取速度限制是搜索引擎“能”抓取的頁面數。

　　抓取份額是由什么決定的?

　　抓取份額是考慮抓取需求和抓取速度限制兩者之后的結果，也就是搜索引擎“想”抓，同時又“能”抓的頁面數。

　　網站權重高，頁面內容質量高，頁面夠多，服務器速度夠快，抓取份額就大。

　　網站優化中對蜘蛛抓取你了解多少?以上文章就是為大家介紹的此類文章了，相信你肯定對這些文章很感興趣，如果你有什么不懂的，可以直接聯系小編。

上一篇：分析新站總是不被搜索引擎收錄的原因

下一篇：搜索引擎蜘蛛抓取份額是怎么回事？