好多建站系统，在建成网站后，都网站根目次，默认有robots.txt协议文件。在网站优化竞争日趋加重的今天，本来设立之初无优化因素的robots.txt文件也被最大化使用，掌握其写法，未雨绸缪。 一：robots.txt […]

好多建站系统，在建成网站后，都网站根目次，默认有robots.txt协议文件。在网站优化竞争日趋加重的今天，本来设立之初无优化因素的robots.txt文件也被最大化使用，掌握其写法，未雨绸缪。

一：robots.txt协议文件有什麽用？

搜索引擎拜候一个网站的时候，最先拜候的文件就是robots.txt。她奉告搜索引擎蜘蛛，哪一些网站页面可以被抓取，哪一些禁止抓取。表面来看，这个功能作用有限。从SEO 的角度来看，可以经过屏蔽页面，达到聚集权重的作用，这，也是优化人员最为看重之处。

以某网站优化站点为例，其robots.txt文件如图所示：

二：网站设置robots.txt的几个原因。

1：设置拜候权限保护网站安全。

2：禁止搜索引擎爬取无效页面，聚集权值到主要页面。

三：怎么用标准写法誊写协议？

有几个概念需掌握。

User-agent暗示定义哪个搜索引擎，如User-agent：Baiduspider，定义Baidu蜘蛛。

Disallow暗示禁止拜候。

Allow暗示运行拜候。

经过以上三个命令，可以组合好多种写法，容许哪个搜索引擎拜候或禁止哪个页面。

四：robots.txt文件放在那边？

此文件需安放在网站的根目次，且对字母大小有约束，文件名必须为小写字母。所有的命令第一个字母需大写，其他的小写。且命令以后要有一个英文字符空格。

五：哪一些时候需要使用该协议。

1：无用页面，好多网站都有联络咱们，消费者协议等页面，这些页面相对SEO 来讲，作用不大，此时需要使用Disallow命令禁止这些页面被搜索引擎抓取。

2：动態页面，企业类别站点屏蔽动態页面，有益于网站安全。且多个网址拜候同一页面，会导致权重分离。因此，普遍状况下，屏蔽动態页面，保存静態或伪静態页面。

3：网站后台页面，网站后台也可以归类于无用页面，禁止收录有百益而无一害。

来源：