[醒目]给各位有网站地战友地安全建议——技术帖

Newbie

不知道发到哪儿~~权当灌水吧~~咔咔
  y" x: k$ G' P0 n: b" ]8 ?# Z- P- E" A
偶经常教人家的是怎么能让Google之类的搜索引擎尽量多的找到你的网站。鉴于近来风声鹤唳，为了各位战友的安全，偶今天来教教大家如何不让搜索引擎找到你的网站！声明，如果有网站的JS用这个方法将可能导致你的网站访问量下降！不会再有新的用户通过Google之类的搜索引擎查找到你的网站，慎用！
8 [- ?) P* c7 }8 b' x
先来介绍点小知识，Google如何找到你的网站？网络达人或灭兴趣的跳过好了

) x# s  h4 Q5 B/ f( _2 o9 I网络搜索引擎主要由Robot（机器人又叫网络爬虫）、索引数据库和查询服务三个部分组成。Robot对互联网资源进行遍历，尽可能多地发现并采集新的信息；采用全文检索技术对采集到的信息建立索引存到索引数据库中，能够极大地提高信息检索的速度；查询服务接收并分析用户的查询，即将用户查询作为数据库提问式，根据一定的的匹配策略，如布尔模型、模糊布尔模型等方法遍历索引数据库，最后将达到一定的匹配程度的结果（包括标题项，简单文摘和链接地址）集合返回给用户。

Robot有各种定义，google定义为googlebot，就是Google+Robot的意思。下面看一个Robot的例子：

( i/ V& p7 l$ D% n6 gcrawler11.googlebot.com - - [08/Jan/2004:04:04:54 -0600] "GET /blog/archives/000010.html HTTP/1.0" 200 8953 "-" "Googlebot/2.1 (+http://www.googlebot.com/bot.html)"

就是说，Robot报告的东西就是Google能查到的。

此外，由于Google每次放出Robot有一定的周期，所以Google查到的内容并不保证是最新的。也就是说你的网站已经关闭了，可是在Google上还可能查的到；或者说可能Google查到的内容实际上是你的网站几个月前的内容。
1 W$ i3 t; }. }5 o
) b! [& ]- c0 V9 B% z废话说了介么多，好啦好啦，进入主题！怎么做？
# A& |: {7 ]; c
! i% U) B" s: [1 s- ~8 D真是太太太简单了，我都不好意思说了，免得被网络达人笑话~~呵呵

, `, _! A# E. `6 W3 [7 T' \首先建立一个空白文本文档 robots.txt，注意，文件名必须是这个，而且必须是纯文本文件，用Windows的记事本就好啦，偶都用它写程序的说
) ]) H$ b3 @2 g4 N# Q
) T7 L; B& ?' F7 Q- h$ P- }把下面两行贴进去，当然你要一个字一个字打偶也不反对

User-agent: *
' {0 c4 ?. T  J, s2 l: t/ FDisallow: /
9 ~, t" Q5 G8 `
9 j' a& v  H' z8 A; V8 {, P保存，然后丢进你的网站http根目录里。

6 O. K! y; Q& }. C1 K完了！简单吧。介样一来下次Google啊Yahoo啊之类的就不会再找你了

等一下~~~那位同学要发言。虾米？只想让论坛不会被搜索到？OK！灭问题

* w" Z2 q! Z% l" ~  `7 B5 ~User-agent: *
Disallow: /bbs

) V& a- ^6 h4 i$ m  E可以了！

# |) \# Q6 w" V( ^+ A再来个例子：
! `9 x6 O& {' ^) `8 O& z
User-agent: *
, {# h4 N& I$ G) [7 lDisallow: /pub
6 t. D! P- @1 ?Disallow: /img
Disallow: /cgi-bin
Disallow: /forum
Disallow: /shop
% k8 e" G/ M) j1 J" D
看明白灭？想让哪个目录里的内容不被搜索到就添一行进去，注意，一行一个哦~~
3 X" R; \/ h0 N, B, C
最后，想再次让Google搜索到的话，删除那一行就可以了。如果想整个网站都能被搜索到，直接删除那个robots.txt文件！简单吧~~哇咔咔

/ }2 B/ h1 J4 J8 H9 K$ pps:各位JS要是用了偶介个方法记得以后要给偶打折哦~~哇咔咔
& ]# U) C" I! L% x! {( vbtw:007介种表演欲旺盛地曝露狂就表看偶地文章了

[ Last edited by Newbie on 2004-11-30 at 19:22 ]

HADES1974

好东西,这阵风过去就又可以恢复回来了