可以相对Sitemaps网址在robots.txt的使用吗?(Can a relative site

2019-07-17 22:30发布

在robots.txt的,我可以写的sitemap文件下面相对URL?

sitemap: /sitemap.ashx

还是我必须使用完整的(绝对)URL的sitemap文件,如:

sitemap: http://subdomain.domain.com/sitemap.ashx

为什么我想知道:

  • 我自己一个新的博客服务,www.domain.com,允许用户博客上accountname.domain.com。
  • 我使用通配符,那么所有子域(账户)指出:“blog.domain.com”。

在blog.domain.com我把robots.txt来让搜索引擎找到的地图。 但是,由于通配符,所有用户账户共享同一个robots.txt file.Thats为什么我不能用第二个选择。 而现在我不能使用URL重写为txt文件。 (我想以后版本的IIS可以处理这个问题?)

Answer 1:

根据官方的sitemaps.org文档,它必须是一个完整的URL:

您可以使用robots.txt文件中指定站点地图的位置。 要做到这一点,只需添加以下行包括完整URL,网站地图:

 Sitemap: http://www.example.com/sitemap.xml 


Answer 2:

谷歌爬虫不够聪明,他们无法抓取相对URL,这就是为什么它总是建议使用绝对URL的更好的爬行和可转位。

因此,你不能使用这种变化

> sitemap: /sitemap.xml

推荐语法

Sitemap: https://www.yourdomain.com/sitemap.xml

注意:

  • 不要忘了首字母大写的“网站地图”
  • 不要忘了后把空间“网站地图”


文章来源: Can a relative sitemap url be used in a robots.txt?