浅谈搜索引擎技术的难点

搜索引擎的难点包括如下几点：

    1) 是否支持并发的爬取数据，如果要并发，要保证所有采集器能合作采集，不会出现重复采集的情况.

杭州网站建设 http://www.maiseo.com

    2) 采集的数据还要有一个排重的过程. 只需要采集一个网站更新的数据

    3) 对于需要cookie数据的网页如何采集的问题,部分网站需要通过cookie数据登陆网站 杭州网站SEO http://www.maiseo.com

    4) 自动通过识别码的验证

杭州网站推广 http://www.maiseo.com

    5) 一些网站对于密集访问的请求会拒绝，技术上也要进行处理 杭州网站建设 http://www.maiseo.com

    6) 对于一些特殊网页的采集问题, 比如flash网页，一些游戏网页等，很多网站会让采集程序陷入其中，采集数万无效数据，显然是浪费了采集程序的精力

    7) 大数据量的存储也是个难点，据说Google的存储是自己开发的架构，没用任何的数据库，因为数据库的查询效率还是有一定损失. 可以采用数据块的模式，然后通过散列表的模式连接.

杭州网站优化 http://www.maiseo.com

    以上主要列出的是后台采集器的相关技术难点，在前台检索、查询效率等方面仍有许多难点. 杭州网站推广 http://www.maiseo.com

文章录入：dragon    责任编辑：dragon 
相关推荐：　搜索 　seo 　网站优化 　网络营销 　杭州网站优化 　山东 　文档