我們都了解到
搜索引擎整個(gè)工作原理就是搜索蜘蛛爬行整個(gè)網(wǎng)絡(luò)的過(guò)程,在這篇文章中云無(wú)限科技為大家分享哪些情況會(huì)干預(yù)搜索引擎,希望對(duì)大家有所幫助。
被動(dòng)爬取干涉
蜘蛛種類(lèi)
搜索引擎蜘蛛可以分為高權(quán)重蜘蛛,低權(quán)重蜘蛛,降權(quán)蜘蛛,內(nèi)頁(yè)蜘蛛,網(wǎng)頁(yè)內(nèi)容蜘蛛,圖片收集蜘蛛,模擬真實(shí)瀏覽器反作弊爬蟲(chóng)(含js)
索引
收錄率= 收錄數(shù)星/爬取數(shù)星
定期進(jìn)行web日志檢查,計(jì)算收錄率
收錄率非常低,需要增加內(nèi)容質(zhì)量和外鏈
技巧
真假蜘蛛識(shí)別技巧
我找到了一個(gè)方法。一起分享一下。運(yùn)行》cmd》、鍵入tracert 蜘蛛IP地址。如:tracert 123.125.66.123
如圖,看到的,如果是紅色框框部分,就是百度蜘蛛了,其他的,都是偽裝的。
還有一種方法,通過(guò)DNS反查點(diǎn)擊“開(kāi)始”-“運(yùn)行”-“cmd”-“輸入nslookup IP地址”-“回車(chē)”
如
nslookup 123.125.66.123 回車(chē) 會(huì)出現(xiàn)如下情況
引導(dǎo)爬蟲(chóng)抓取新頁(yè)面
制作更新列表網(wǎng)頁(yè)并在放置所有頁(yè)面底部,在內(nèi)容頁(yè)面放置專(zhuān)門(mén)]的列表,跟隨爬蟲(chóng)訪(fǎng)問(wèn)放出新鏈接。
給爬蟲(chóng)優(yōu)待
●給爬蟲(chóng)特殊穩(wěn)定優(yōu)質(zhì)線(xiàn)路確保穩(wěn)定可用不給爬蟲(chóng)冗余的HTML屏蔽時(shí)占率過(guò)少的
搜索引擎,留取更多資源給好的引擎;提高服務(wù)器性能,保證網(wǎng)正常打開(kāi)速度;見(jiàn)少網(wǎng)站頁(yè)面不必要的js特效等。
主動(dòng)提交
1.sitemap txt文本格式(百度) xml格式(谷歌)
通知方式:可以在robots.txt中,添加代碼告知sitemap在網(wǎng)站位置,可以通過(guò)百度站長(zhǎng)后臺(tái)來(lái)提交sitemap,百度站長(zhǎng)可以一次性提交10個(gè)sitemap。
sitemap要求:不等超過(guò)5萬(wàn)個(gè),文件大小不的超過(guò)10mb。不能有404。
2.死鏈提交
xenu掃描 及時(shí)刪除 主動(dòng)提交到百度站長(zhǎng)后臺(tái)死鏈提交
3.網(wǎng)站改版 網(wǎng)站鏈接301跳轉(zhuǎn)(查看日志確保無(wú)誤) 站長(zhǎng)后臺(tái)閉站保護(hù) 死鏈多層掃描
是否允許索引
1.robots.txt
User-agent: *
Disallow: /
2.meta
3.http
header X-Robots-Tag: noindex
4.html
以上的就是我們北京云無(wú)限科技有限公司為大家分享的有感哪些情況會(huì)干預(yù)搜索引擎,希望對(duì)大家有所幫助。北京云無(wú)限科技有限公司在IT行業(yè)專(zhuān)注企業(yè)搜索引擎優(yōu)化、網(wǎng)站制作和手機(jī)app開(kāi)發(fā)服務(wù)。我們始終立足于企業(yè)營(yíng)銷(xiāo)精準(zhǔn)化,為企業(yè)建設(shè)符合搜索引擎規(guī)則、符合用戶(hù)體驗(yàn)的營(yíng)銷(xiāo)網(wǎng)站,通過(guò)正規(guī)SEO技術(shù),讓網(wǎng)站不再是企業(yè)的擺設(shè),而是成為網(wǎng)絡(luò)營(yíng)銷(xiāo)工具,歡迎新老客戶(hù)來(lái)電咨詢(xún)。