该问题已被锁定!
2
关注
3519
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

后台可以修改 用户名 是否可行
积分名称和积分公式可以由站长自定义设置吗?
希望 anwsion 可以 有中英文 切换功能,
现在可不可以支持DZ3.1的转换?
2.2.1可以直接升级到2.5版本吗?
1.0出了,就差UC编码问题就可以直接做站了!
2.0测试版本比1.1.2版本有哪些升级功能?
话题页面较乱,还是简洁点好,比如分类可以带图标,但是话题就不用图标了,可以列出多点,比如20个
二级目录伪静态怎么搞
个人主页的提问列表、回复列表、文章列表 是否可以显示状态

推荐内容

facebook推搜索引擎会有机会么?
anwsion搜索是怎样的原理?
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
从百度搜索不能直接链接到相关页面吗?
终于明白百度为啥不收录了,看看这怎么办?
搜索问题怎么优化?官方的不能用,求方案
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
怎么用robots屏蔽分类列表和推荐、热门、待回复
请问 在robots.txt文件中,一般是放行那几个目录?
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】