影響蜘蛛抓取頁面的因素都有哪些

2020-03-29 14:45:02 編輯：永諾網(wǎng)絡來源：本站原創(chuàng)

　　網(wǎng)站收錄與百度蜘蛛有著直接的關系，我們平時主要是通過主動或被動的方式來吸引百度蜘蛛抓取網(wǎng)站頁面。主動的方式就是通過站長平臺的鏈接提交工具或其它插件，來將自己網(wǎng)站新的內(nèi)容鏈接提交給搜索引擎。被動的方式是靠搜索引擎蜘蛛自己來爬取，來的時間不一定。

　　據(jù)我們所知，百度蜘蛛有兩個目標：一個是本網(wǎng)站生成的新網(wǎng)頁，另一個是百度之前已抓取但需要更新的網(wǎng)頁。

　　影響百度蜘蛛抓取網(wǎng)站頁面的因素有哪些

　　1、robots協(xié)議設置：網(wǎng)站上線后roblts協(xié)議文件是搜索引擎第一個查看的文件，如果不小心設置錯誤禁止搜索引擎就會導致，搜索引擎蜘蛛無法抓取網(wǎng)站頁面。

　　2、內(nèi)容質(zhì)量

　　此外，網(wǎng)站內(nèi)容的質(zhì)量也非常重要。如果蜘蛛在我們的網(wǎng)站上抓取了100,000條內(nèi)容，并且只構建了100條或更少的內(nèi)容，那么百度蜘蛛也會減少網(wǎng)站的抓取量。因為百度認為我們的網(wǎng)站質(zhì)量很差，所以沒有必要抓住更多。因此，我們特別提醒您在站點建設之初需要注意內(nèi)容的質(zhì)量，不要收集內(nèi)容。這對網(wǎng)站的發(fā)展有潛在的隱患。

　　3、服務器不穩(wěn)定：服務器不穩(wěn)定或者JS添加過多，就會導致網(wǎng)站加載速度變慢，甚至無法打開，嚴重影響用戶體驗，這種情況也會影響百度蜘蛛抓取網(wǎng)站頁面的。

　　4、網(wǎng)站安全

　　對于中小型站點，由于缺乏安全技術意識和技術弱點，網(wǎng)站被篡改是很常見的。有幾種常見的黑客攻擊情況。一個是網(wǎng)站域名被黑客攻擊，另一個是標題被篡改，另一個是頁面中添加了很多黑鏈。對于一般網(wǎng)站，域名被劫持，即域名設置為301跳轉(zhuǎn)，并跳轉(zhuǎn)到指定的垃圾郵件網(wǎng)站。如果百度發(fā)現(xiàn)這種跳躍，那么你網(wǎng)站的抓取就會減少，甚至會減少懲罰。

　　5、網(wǎng)站響應速度快

　?、倬W(wǎng)頁的大小將影響抓取。百度建議網(wǎng)頁的大小不到1M，當然類似于新浪網(wǎng)這樣的大型門戶網(wǎng)站。

　?、诖a質(zhì)量，機器性能和帶寬。這些會影響抓取的質(zhì)量。不用說，代碼本身的質(zhì)量也根據(jù)程序執(zhí)行。您的代碼質(zhì)量差，難以閱讀。蜘蛛自然不會浪費時間閱讀。機器性能和帶寬也是如此。服務器配置太差，帶寬不足會導致蜘蛛抓取網(wǎng)站，這將嚴重影響蜘蛛的熱情。

　　6、具有相同ip的網(wǎng)站數(shù)量

　　百度抓取是基于ip抓取的。例如，百度每天可以在ip上捕獲2000w頁面，并且該站點上有50W站點，因此將抓取平均站點數(shù)量。很少點。同時，你需要注意看同一個ip上是否有一個大站。如果有一個大站，那么分配很少的抓取數(shù)量將被大站帶走。

　　影響網(wǎng)站收錄的因素是各方面的，在查找原因的時候可采用排查法，一項一項的查找，只有查找到了原因才能提升網(wǎng)站收錄。同時提醒大家一點：搜索引擎的索引庫是分級別的，網(wǎng)站內(nèi)容被收錄后，如果內(nèi)容質(zhì)量度高就會進入優(yōu)質(zhì)索引庫，并給于優(yōu)先展示，因此網(wǎng)站收錄并不是量大就是好。

本站文章均為永諾網(wǎng)站建設摘自權威資料，書籍，或網(wǎng)絡原創(chuàng)文章，如有版權糾紛或者違規(guī)問題，請即刻聯(lián)系我們刪除，我們歡迎您分享，引用和轉(zhuǎn)載，我們謝絕直接復制和抄襲！感謝...

返回首頁上一篇：百度搜索引擎計算的基本原理是什么下一篇：新網(wǎng)站如何優(yōu)化