机器人文件是否支持中文目录?
浏览:115 时间:2024-5-15

关于机器人的问题:我们有一个使用中文的站点目录结构,例如:www.a.com/Adventure Island/123.html,可以在制作机器人文件和站点地图文件时直接使用。中文?百度可以得到吗?在实践中,我们发现站点地图中的文件可能有效,但机器人禁令似乎没有响应,所以我想确认:机器人文件是否支持中文?

工程师答案:Baiduspider目前(2016年10月)不支持机器人中文。

学生们问:我们会支持UrlEncode编码吗?例如:http://www.a.cn/%E7%89%B9%E6%AE%8A:%E6%B5%8F%E8%A7%88 /%E7%94%9F%E6%AD%BB%E7 %8B%99%E5%87%BB:%E7%99%BD%E9%93%B6%E5%8A%A0%E7%89%B9%E6%9E%97

工程师答案:机器人文件支持这种类型的写作。但它是否生效取决于BaiduSpider当时抓取的链接形式。如果是UrlEncode,它可以生效。如果是中国人,那是非常不幸的。