Robots.txt通常是放到网站根目录,它的用途是禁止访问网站的某些文件目录。
举个例子,我网站根目录/templets/文件夹下是我们的重要文件,不想让用户访问,那么我们就可以在Robots.txt中添加一句Disallow: /templets ,这样当用户通过在浏览器地址栏输入http://你的域名/templets/ 时也不能访问templets目录下的文件,所以我们可以看出Robots.txt文件就是禁止访问网站文件的功能。
所以Robots.txt文件很重要,你也可以看看别人的Robots.txt 。例如懒鸟飞的robots.txt文件内容如下图:
评论0