您可以通過以下新聞與公司動態進一步了解我們。我們所簽約的客戶,無論他們的項目是大或者小，我們都將提供好的服務。
-
整理編輯人員：北京網站建設 首次發布時間：2003/9/20 點擊次數：1102751次
站長地工作是設計精美地網站，為大眾展現網站豐富多彩地內容。當然，我們也希望精心設計地網站獲得理想地排名，這就要求我們去研究搜索引擎排名規律，最大程度地獲得機會展現給客戶。然而，搜索引擎種類很多，有時候，我們對某壹種搜索引擎地排名很好，卻在另外地搜索引擎上面獲得不到壹樣地排名，原因是各個搜索引擎規則不壹樣。為此，有人復制出相同地內容以應付不同搜索引擎地排名規則。然而，壹旦搜索引擎發現站內有大量克隆地頁面，就會給以懲罰，不收錄這些重復地頁面。另壹方面，我們網站地內容屬于個人私密文件，不想暴露在搜索引擎中。這時，robot.txt就是為啦解決這兩個問題。
壹、搜索引擎和其對應地User-Agent
那么，目前有哪些搜索引擎和其對應地User-Agent呢?下面，我列出啦壹些，以供參考。
搜索引擎 User-Agent
AltaVista Scooter
baidu Baiduspider
Infoseek Infoseek
Hotbot Slurp
AOL Search Slurp
Excite ArchitextSpider
Google Googlebot
Goto Slurp
Lycos Lycos
MSN Slurp
Netscape Googlebot
NorthernLight Gulliver
WebCrawler ArchitextSpider
Iwon Slurp
Fast Fast
DirectHit Grabber
Yahoo Web Pages Googlebot
Looksmart Web Pages Slurp
貳、robots基本概念
Robots.txt文件是網站地壹個文件，它是給搜索引擎蜘蛛看地。搜索引擎蜘蛛爬行道我們地網站首先就是抓取這個文件，根據里面地內容來決定對網站文件訪問地范圍。它能夠保護我們地壹些文件不暴露在搜索引擎之下，從而有效地控制蜘蛛地爬取路徑，為我們站長做好北京網站建設創造必要地條件。尤其是我們地網站剛剛創建，有些內容還不完善，暫時還不想被搜索引擎收錄時。
robots.txt也可用在某壹目錄中。對這壹目錄下地文件進行搜索范圍設定。
幾點注意：
網站必須要有壹個robot.txt文件。
文件名是小寫字母。
當需要完全屏蔽文件時，需要配合meta地robots屬性。
叁、robots.txt地基本語法
內容項地基本格式：鍵: 值對。
壹) User-Agent鍵
后面地內容對應地是各個具體地搜索引擎爬行器地名稱。如百度是Baiduspider，谷歌是Googlebot。
壹般我們這樣寫：
User-Agent: *
表示允許所有搜索引擎蜘蛛來爬行抓取。如果只想讓某壹個搜索引擎蜘蛛來爬行，在后面列出名字即可。如果是多個，則重復寫。來源于： 武漢民生耳鼻喉醫院 http://www.零貳柒msebh.com/
注意：User-Agent:后面要有壹個空格。
在robots.txt中，鍵后面加：號，后面必有壹個空格，和值相區分開。
貳)Disallow鍵
該鍵用來說明不允許搜索引擎蜘蛛抓取地URL路徑。
例如：Disallow: /index.php 禁止網站index.php文件
Allow鍵
該鍵說明允許搜索引擎蜘蛛爬行地URL路徑
例如：Allow: /index.php 允許網站地index.php
通配符*
代表任意多個字符
例如：Disallow: /*.jpg 網站所有地jpg文件被禁止啦。
結束符$
表示以前面字符結束地url。
例如：Disallow: /?$ 網站所有以?結尾地文件被禁止。
肆、robots.txt實例分析
例壹. 禁止所有搜索引擎訪問網站地任何部分
User-agent: *
Disallow: /
例貳. 允許所有地搜索引擎訪問網站地任何部分
User-agent: *
Disallow:
例叁. 僅禁止Baiduspider訪問您地網站
User-agent: Baiduspider
Disallow: /
例肆. 僅允許Baiduspider訪問您地網站
User-agent: Baiduspider
Disallow:
例伍. 禁止spider訪問特定目錄
User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /data/
注意事項：壹)叁個目錄要分別寫。貳)請注意最后要帶斜杠。叁)帶斜杠與不帶斜杠地區別。
例陸. 允許訪問特定目錄中地部分url
我希望a目錄下只有b.htm允許訪問，怎嘛寫?
User-agent: *
Allow: /a/b.htm
Disallow: /a/
注：允許收錄優先級要高于禁止收錄。
從例柒開始說明通配符地使用。通配符包括($ 結束符;
*任意符)
例柒. 禁止訪問網站中所有地動態頁面
User-agent: *
Disallow: /*?*
例捌. 禁止搜索引擎抓取網站上所有圖片
User-agent: *
Disallow: /*.jpg$
Disallow: /*.jpeg$
Disallow: /*.gif$
Disallow: /*.png$
Disallow: /*.bmp$
其他很多情況呢，需要具體情況具體分析。只要你啦解啦這些語法規則以及通配符地使用，相信很多情況是可以解決地。
伍、meta robots標簽
meta是網頁html文件地head標簽里面地標簽內容。它規定啦此html文件對與搜索引擎地抓取規則。與robot.txt 不同，它只針對寫在此html地文件。
寫法：
meta name=robots content= /。
里面地內容列出如下
noindex - 阻止頁面被列入索引。
nofollow - 阻止對于頁面中任何超級鏈接進行索引。
noarchive - 不保存該頁面地網頁快照。
nosnippet - 不在搜索結果中顯示該頁面地摘要信息，同時不保存該頁面地網頁快照。
noodp - 在搜索結果中不使用Open Directory Project中地描述信息作為其摘要信息。
陸、robots地測試
在谷歌站長工具中，添加網站后使用左側地抓取工具地權限，就可以對網站地robots進行測試啦，詳細見圖。
robots.txt和mtea robots地內容就介紹到這里，相信大家對robot已經有啦比較詳細地啦解。使用好robots對于我們網站地北京網站建設有著重要作用，做地好，可以有效地屏蔽那些我們不想讓搜索引擎抓取地頁面，也就是對用戶體驗不高地頁面，從而將有利于重要詞語排名地內頁充分展示個客戶，獲得搜索引擎對站內頁面地權重，從而有利于我們將重要詞語排名做地更好。
北京歡迎你科技有限公司原創文章，關鍵詞：北京網站建設 北京建網站 北京網站制作 轉載請注明出處：www.qdemma.com謝謝！
上一篇 :百度百科實戰北京網站建設技巧(問答篇) 非常實用（原創）！
下一篇 :專家分析對北京網站建設heimao博客群發外部鏈接分析
010-56035709 北京地區專線：
15901551129（24小時）
投訴電話 
北京總部 
關于我們
