该问题已被锁定!
2
关注
3578
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

可不可以一键封禁呢?
有没好的运营成功网站欣赏呢,br>4的1-2年网站就可以啦
微信对接站点是否可以参考微社区。
有哪些用户微信公众平台绑定无响应?可以提供一下对应的系统环境情况么?
头像是否可以增加使用Gravatar呢
好像不可以返回
是否可以增加注册字段?
上传附件的时候经常提示错误,必须再来一次才可以,请官方注意下
新程序不能支持二级目录跳转
什么时候可以支持IE6

推荐内容

从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
请教用七牛后robots.txt的设置方法
搜索引擎收录时的时间是错的,网站哪里出了问题?
如何看待周鸿祎对360搜索的定位?
从百度搜索不能直接链接到相关页面吗?
anwsion搜索是怎样的原理?
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】