很多朋友都会问沈阳网站建设如何被搜索引擎收录?我的网站为什么还没有被收录?等等这样的话题,我们也写过很多关于这样的文章,其实还有很多朋友他们还有这样的困扰,比如我的有些东西不想被搜索引擎收录我该怎么办呢?今天我们就来和大家聊聊不让搜索引擎收录的方法。
那么问题来了robots.txt文件因该放在哪里呢? robots.txt文件应该放置在网站根目录下。举例来说,当spider访问一个网站(比如 //wpborder.com)时,首先会检查该网站中是否存在//wpborder.com/robots.txt这个文件,如果 Spider找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。
如您还有网站方面的疑问欢迎您来访我们沈阳网站建设。