该问题已被锁定!
2
关注
2989
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

可以与帝国CMS整合吗?
什么时候可以加上人人登录呢?
呀,1.1 4可以下了,赶紧动手!
第三方账号注册的时候可以让他们授权关注官方微博吗?要怎么设置?
请问 分类 可以在后台设置 默认 收起 或者 展开 吗?
wecenter可以支持tag、标签吗?
Wecenter2.5.16如何升级至3.0呢 可不可以直接安装3.0 然后数据库覆盖呢
wecenter手机端和小程序界面截图,可以继续改进
WeCenter具有哪些优势?
【付费求功能】管理员后台可以设置不同的板块对不同的角色公开吗?

推荐内容

为了避免重复收录写的robots.txt 大家看下我这规则对不对
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
anwsion搜索是怎样的原理?
请教用七牛后robots.txt的设置方法
搜索问题怎么优化?官方的不能用,求方案
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
请问 在robots.txt文件中,一般是放行那几个目录?
Wecenter的robots这样写 是否更好一些?
从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
从百度搜索不能直接链接到相关页面吗?