浅谈搜索引擎技术的难点

索引擎的难点包括如下几点：
1) 是否支持并发的爬取数据，如果要并发，要保证所有采集器能合作采集，不会出现重复采集的情况.

2) 采集的数据还要有一个排重的过程. 只需要采集一个网站更新的数据

3) 对于需要cookie数据的网页如何采集的问题,部分网站需要通过cookie数据登陆网站

4) 自动通过识别码的验证

5) 一些网站对于密集访问的请求会拒绝，技术上也要进行处理

6) 对于一些特殊网页的采集问题, 比如flash网页，一些游戏网页等，很多网站会让采集程序陷入其中，采集数万无效数据，显然是浪费了采集程序的精力

7) 大数据量的存储也是个难点，据说Google的存储是自己开发的架构，没用任何的数据库，因为数据库的查询效率还是有一定损失. 可以采用数据块的模式，然后通过散列表的模式连接.

以上主要列出的是后台采集器的相关技术难点，在前台检索、查询效率等方面仍有许多难点.