该问题已被锁定!
2
关注
3396
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

那里可以下载 2.5的beta1啊,想体验下文章功能
我可以问一些关于算法类的问题吗
为什么积分都是负积分还是可以提问?
应该可以关闭问题修改
文章一定要传封面?怎么设置可以不传?而且现在传了也不显示阿
在本地测试可以上传空间后登陆成功后竟然变化,密码错误也会显示!
哪里有wecenter的介绍性文档,可以了解目前wecenter的基本功能
测试一下,好不好,话题可以重复添加吗?
购买的虚拟主机,请问可以使用rewrite伪静态吗?
可以发视频吗?

推荐内容

wecenter的robots规则
Wecenter的robots这样写 是否更好一些?
终于明白百度为啥不收录了,看看这怎么办?
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
搜索问题怎么优化?官方的不能用,求方案
wecenter 采用的是那种搜索技术
搜索引擎收录时的时间是错的,网站哪里出了问题?
从百度搜索不能直接链接到相关页面吗?
如何看待周鸿祎对360搜索的定位?