重庆时时彩票中奖公式|粤十一选五杀号公式

robots協議如何書寫

發表日期:2018-07-07 文章編輯:飛鳥網絡 瀏覽次數:

Robots協議用來告知搜索引擎哪些頁面能被抓取,哪些頁面不能被抓取;可以屏蔽一些網站中不想被蜘蛛爬行的文件,或者是比較大的文件,如:圖片,音樂,視頻等,節省服務器帶寬;可以屏蔽站點的一些死鏈接。方便搜索引擎抓取網站內容;設置網站地圖連接,方便引導蜘蛛爬取頁面。

robots協議如何書寫

文件寫法

User-agent: * 這里的*代表的所有的搜索引擎種類,*是一個通配符

Disallow: /admin/ 這里定義是禁止爬尋admin目錄下面的目錄

Disallow: /require/ 這里定義是禁止爬尋require目錄下面的目錄

Disallow: /ABC/ 這里定義是禁止爬尋ABC目錄下面的目錄

Disallow: /cgi-bin/*.htm 禁止訪問/cgi-bin/目錄下的所有以".htm"為后綴的URL(包含子目錄)

Disallow: /*?* 禁止訪問網站中所有包含問號 (?) 的網址

Disallow: /.jpg$ 禁止抓取網頁所有的.jpg格式的圖片

Disallow:/ab/adc.html 禁止爬取ab文件夾下面的adc.html文件。

Allow: /cgi-bin/ 這里定義是允許爬尋cgi-bin目錄下面的目錄

Allow: /tmp 這里定義是允許爬尋tmp的整個目錄

Allow: .htm$ 僅允許訪問以".htm"為后綴的URL

Allow: .gif$ 允許抓取網頁和gif格式圖片

Sitemap: 網站地圖 告訴爬蟲這個頁面是網站地圖

相關新聞
  • 我們能做什么

    我們不僅僅提供網站建設、網站優化推廣、小程序、微信公眾號,還提供一站式的網站解決方案,讓您超越競爭對手,獲得銷量倍增!

  • 更多 +我們的優勢







  • 更多 +關于飛鳥

    江蘇飛鳥網絡科技有限公司是專業從事互聯網應用開發,網絡營銷推廣和互動多媒體制作的科技公司.針對企業網站建設、網站設計以及網絡營銷有著豐富的從業實戰經驗 公司熱情、真誠、耐心的服務每一位客戶,為客戶創造價值!歡迎來電咨詢!

  • 江蘇飛鳥網絡科技有限公司
  • 徐州網站制作高端品牌
  • Q Q:2539312345
  • 手機:18651349555
  • 電話:4000-996-858
  • ? 2016-2019 All Rights Reserved 江蘇飛鳥網絡科技有限公司 版權所有
  • 地址:徐州市云龍區綠地瀛海寫字樓B座426-425-424-423室
  • 備案號:蘇ICP備17034603號
重庆时时彩票中奖公式