我这有用一个seo的关于robots写法的问题
Disallow:
Sitemap: http://www.xx.cn/sitemap.xml
这样的话，蜘蛛是不是不会抓取sitemap了啊？可是如果不让蜘蛛抓了，那我写sitemap有什么用呢？ 展开
robots 是站点与 spider 沟通的重要渠道，站点通过 robots 文件声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。请注意，仅当您的网站包含不希望被搜索引擎收录的内容时，才需要使用 robots.txt 文件。如果您希望搜索引擎收录网站上所有内容，请勿建立 robots.txt 文件。
robots 文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以 CR,CR/NL, or NL 作为结束符），每一条记录的格式如下所示： <field>:<optional space><value><optionalspace>
在该文件中可以使用#进行注解，具体使用方法和 UNIX 中的惯例一样。该文件中的记录通常以一行或多行 User-agent 开始，后面加上若干 Disallow 和 Allow 行 , 详细情况如下：
User-agent:该项的值用于描述搜索引擎 robot 的名字。在 "robots.txt" 文件中，如果有多条- User-agent 记录说明有多个 robot 会受到 "robots.txt" 的限制，对该文件来说，至少要有一条 User-agent 记录。如果该项的值设为 ，则对任何 robot 均有效，在 "robots.txt" 文件中，"User-agent:" 这样的记录只能有一条。如果在 "robots.txt" 文件中，加入 "User-agent:SomeBot" 和若干 Disallow、Allow 行，那么名为 "SomeBot" 只受到 "User-agent:SomeBot" 后面的 Disallow 和 Allow 行的限制。
Disallow:该项的值用于描述不希望被访问的一组 URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以 Disallow 项的值开头的 URL 不会被 robot 访问。例如 "Disallow:/help" 禁止 robot 访问 /help.html、/helpabc.html、/help/index.html，而 "Disallow:/help/" 则允许 robot 访问 /help.html、/helpabc.html，不能访问 /help/index.html。"Disallow:" 说明允许 robot 访问该网站的所有 url，在 "/robots.txt" 文件中，至少要有一条 Disallow 记录。如果 "/robots.txt" 不存在或者为空文件，则对于所有的搜索引擎 robot，该网站都是开放的。
Allow:该项的值用于描述希望被访问的一组 URL，与 Disallow 项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以 Allow 项的值开头的 URL 是允许 robot 访问的。例如 "Allow:/hibaidu" 允许 robot 访问 /hibaidu.htm、/hibaiducom.html、/hibaidu/com.html。一个网站的所有 URL 默认是 Allow 的，所以 Allow 通常与 Disallow 搭配使用，实现允许访问一部分网页同时禁止访问其它所有 URL 的功能。
使用 "*"and"$"：Baiduspider 支持使用通配符 "" 和 "$" 来模糊匹配 url。 "" 匹配 0 或多个任意字符 "$" 匹配行结束符。
最后需要说明的是：百度会严格遵守 robots 的相关协议，请注意区分您不想被抓取或收录的目录的大小写，百度会对 robots 中所写的文件和您不想被抓取和收录的目录做精确匹配，否则 robots 协议无法生效。
柚鸥ASO
2024-03-16 广告
Disallow: 后面不加具体的内容就表示所有都不收录。
而我们一般需要的是屏蔽某些在收录对网站排名没有什么价值的文件，如js文件，css文件，images文件等，或者是有些需要保护的隐私文件，如admin文件。所以一般的写法是将需要屏蔽的内容列出来，而没有被列出的就是让搜索引擎可以抓取的，常用的写法为为：
User-agent:*
Disallow: /css/ 禁止抓取css文件夹文件
Disallow: /images/ 禁止抓取images文件
Allow:/css/my 允许抓取css下的my文件夹
Sitemap: 站点地图路径 抓取站点地图
当然也可以自动某些特征的禁止抓取：
如Disallow: /*？* 禁止抓取所有带问号的动态路径
Disallow: /*.jpg 禁止抓取以jpg为后缀的文件
也可以使用”＄“，仅允许访问某个目录下某个后缀的文件
如Allow:.asp$ 允许访问所有asp为后缀的所有文件
具体的情况就需要你根据网站的内容来详细制定了。
