Question

robots.txt文件无内容 放入主目录会影响收录吗

Answer 1

robots.txt必须放置在一个站点的根目录下，而且文件名必须全部小写。 语法：最简单的 robots.txt 文件使用两条规则： �6�1User-Agent: 适用下列规则的漫游器 �6�1Disallow: 要拦截的网页 搜索引擎Robots协议，是放置在网站根目录下robots.txt文本文件，在文件中可以设定搜索引擎蜘蛛爬行规则。设置搜索引擎蜘蛛Spider抓取内容规则。下面Seoer惜缘举例robots写法规则与含义： 首先要创建一个robots.txt文本文件，放置网站的根目录下，下面就开始编辑设置Robots协议文件： 一、允许所有搜索引擎蜘蛛抓取所以目录文件，如果文件无内容，也表示允许所有的蜘蛛访问，设置代码如下： User-agent: * Disallow: 或者 User-agent: * Allow: / 二、禁止某个搜索引擎蜘蛛抓取目录文件，设置代码如下： User-agent: Msnbot User-agent: Msnbot Disallow: / 例如想禁止MSN的蜘蛛抓取就设为，Msnbot代表MSN的蜘蛛，如果想禁止其他搜索引擎就更换蜘蛛名字即可，其他蜘蛛名字如下： 百度的蜘蛛：baiduspider Google的蜘蛛： Googlebot 腾讯Soso:Sosospider Yahoo的蜘蛛：Yahoo Slurp Msn的蜘蛛：Msnbot Altavista的蜘蛛：Scooter Lycos的蜘蛛： Lycos_Spider_(T-Rex) 三、禁止某个目录被搜索引擎蜘蛛抓取，设置代码如下： User-agent: * Disallow: /目录名字1/ Disallow: /目录名字2/ Disallow: /目录名字3/ 把目录名字改为你想要禁止的目录即可禁止搜索引擎蜘蛛抓取，目录名字未写表示可以被搜索引擎抓取。