相信多其有所了解的人都明白搜索引擎的变化无常,无法真正认识搜索工作原理,但是无论搜索引擎怎样变化,大概的收录原理是不会变的:
1、找到网站的URL并下载页面。
2、判断页面质量是否达到收录标准收录页面,否则删除。
3、判断收录页面是否更新,更新页面快照。
而且搜索引擎可以分为基本的五大部分,既抓取网页系统,数据分析系统,存储数据系统,缓存系统,展示系统。
1、抓取网页系统:分为探测系统和下载系统,探测系统就是我们平常说的蜘蛛,蜘蛛在互联网上爬行时探测到一个网站的URL,就会把URL所指向的页面利用下载系统,下载到搜索引擎的服务器上,然后将页面交给数据分析系统。
2、数据分析系统:分为数据分析和数据处理两个系统,当数据分析系统从抓取网页系统那获取到被下载的页面,首先进行数据分析去除不相关的文字或网站重复内容,进行页面文字的处理,然后对处理过后的页面内容进行判断,是否达到收录标准,达到交给存储系统,没有达到删除。
3、存储数据系统:将收录的页面进行保存,然后定时进行判断存储的页面是否有更新。
4、缓存系统:存储搜索引擎认为高价值的内容,当用户搜索某个关键词时经常看到收录量有几千万,但是搜索引擎显示的只有1000条,这也就是说只有1000条被放在了缓存系统上,用户可以最快速的查找到他们想要的内容。
5、展示系统:用户搜索返回到显示器上的信息。
蜘蛛在整个互联网上爬行遇见你网站的一个URL,首先把URL提取出来根据网站权重和相关性插入到URL队列中,然后是判断你网站的这条URL是否能够解析成功,如果能解析成功,蜘蛛会爬到你网站,这里需要说一下,蜘蛛并不是直接去分析你网页的内容,而是去寻找你网站robots文件,根据你网站的robots规则判断是否抓取你这个页面,如果robots文件不存在,则会返回一个404错误,但是搜索引擎已经会继续抓取你的网站内容。
所以只要我们能够很好的明白它的工作原理,我们就能够比较轻松地进行网站优化。
深圳 · 龙岗 · 大运软件小镇22栋201
电话:400 182 8580
邮箱:szhulian@qq.com