網站優化跟蹤 細看robots.txt規則的實際效果
發布時間:2011-10-29 點擊次數:
10月20日,我對博客進行了大規模調整,就如同對待亟待成長的樹一般修枝剪葉,以期能有較好的成長趨勢。其中robots.txt被我充分的利用起來。
如今一個工作周即將過去,robots.txt文件規則是否正確,是否已經生效?百度谷歌等搜素引擎是否響應了robots.txt規則進行索引調整?作為站長我需要深入研究一番,以便動態掌握博客收錄狀態。
經調查發現,谷歌對robots.txt反應比較迅速,第三天在網站管理工具里找到了跡象。百度表現不盡如人意,說百度不認robots.txt規則那是瞎扯,但反應周期如此之長,難免會留下反應慢不作為的猜疑。
看谷歌對robots.txt規則之反應
在20日做的調整中,有兩條規則我后來做了刪除。打開我博客的robots.txt,和20日進行調整寫下的對比,可知其中變化。
作此調整的原因在于,如按照20日的寫法,第二天我發現,網站管理員工具Sitemaps里三個被選中的地址前出現了叉號——被robots.txt文件規則給阻止了——這個沒必要嘛。當時的截圖找不到了,下面三個選中的可以看一下:
提交的sitemap網站地圖
響應robots.txt規則,谷歌停止了2000 多個連接地址的抓取。那500多個找不到地址,是因為前段時間刪除文章標簽tags后遺癥。下面是截圖:
2000多個連接地址被robots.txt規則限制
翻遍每一頁,沒有發現問題——除了一些/?p=的短連接讓人心疼外,一切完美無暇。嚴格來說,應該是robots.txt規則不存在問題,谷歌不折不扣的執行了robots.txt規則。
谷歌查詢“site:***.com inurl:?p” 僅找到殘缺的14條(無標題或摘要)。不久的將來這些地址將被清除。
------------------------------------------------------------------------------------------
藍點網絡提供:網站建設、APP開發、微信小程序、400電話、軟件開發、服務器托管/租用等業務。
從2003年開始,我們始終堅守【網站建設】服務,19年從未放棄?。?/span>
售前咨詢:0311-8736 0077
售后服務:0311-8736 0066
值班手機:189 3198 6878