Question

SEO网站优化搜索引擎蜘蛛抓取预处理过程？

Answer 1

1、提取文字现在的搜索引擎还是以文字内容为基础，蜘蛛抓取到的页面中的HTML代码，除了用户在浏览器上可以看到的可见文字处，还包含了大量的HTML格式标签，JavaScript程序等无法用于排名的内容，搜索引擎预处理首先要做的就是从HTML文件中去除标签、程序，提取出可以用于排名处理的网页面文字内容

2、中文处理分词是中文搜索引擎特有的步骤

搜索引擎存储和处理页面及用户搜索都是以词为基础的

英文等语言单词与单词之间有空格分隔，搜索引擎索引程序可以直接把句子划分为单词的集合

而中文词与词之间没有任何分隔符，一个句子中所有字和词都是连在一起的

搜索引擎必须首先分辨哪几个词组成一个词，哪些字本身就是一个词

比如“公务员考试”将被分词为“公务员”和“考试”两个词

3、去停止词无论是英文还是中文，页面内容中都会有一些出现频率很高，却对内容没有任何影响的词，如“的”、“地”、“得”之类的助词，“阿”、“哈”、“呀”之类的感叹词，“从而”、“以”、“却”之类的副词或介词

这些词被称为停止词，因为它们对页面的主要意思没什么影响

英文中的常见停止词有the,a,an,to,of等

4、去除噪音绝大部分页面上还有一部分内容对页面主题也没有什么贡献，比如版权声明文字，导航条、广告等

以常见的博客导航为例，几乎每个博客页面上都会出现文章分类、历史存档等导航内容，这些页面本身与“分类”、“历史”这些词都没有任何关系

用户搜索“历史”、“分类“这些关键词时仅仅因为页面上有这些词出现而返回博客贴子是毫无意义的，完全不相关

所以这些区城都司于噪声，对页面主题只能起到分散作用

5、去重去重的基本方法是对页面特征关系词计算指指纹，也就是说从页面主体内容中选取最有的一部分关键词（经常是出现频率最高的关系词），然后计算这些关键词的数字指纹

这些关键词选取是在分词、去停止词、消噪之后

6、正向索引7、倒序索引8、链接关系计算页面上有哪些链接指向哪些其他页面，每个页面有哪些导入链接，链接使用了什么锚文字，这些复杂的链接指向关系形成了网站和页面的链接权重9、特殊文件处理除了HTML文件外，搜索引擎通常还能抓取和索引以文字为基础的多种文件类型，如PDF、Word、WPS、XLS、PPT、TXT文件等

我们在搜索结果中也经常会看到这些文件类型

但目前的搜索引擎还不能处理图片、视频、Flash这类非文字内容，也不能执行脚本和程序