分布式集群下Nutch爬虫在电商交易价格的统计研究
来源:互联网 中国科技人才 | 阳黎明 苏理云 重庆理工大学 数学与统计学院 重庆市 400054
摘 要:摘要:如何把规模宏大的电商交易数据纳入价格指数构建中去,已成为网络市场关注的热点。由此,考虑在大数据技术之上,将Nutch爬虫搭建在Hadoop分布式集群上构建分布式网络数据抓取系统,完成网络交易数据的实时抓取,同时结合最新的AP聚类算法对数据进行预处理,实现网上交易价格指数试算。根据试算结果对比,基于Hadoop集群下的Nutch网络爬虫技术较好的完成了网络交易数据抓取任务,由此数据计算的网上交易数据价格指数也与官方指数接近,具有参考价值。
【分 类】 文化研究
【关 键 词】 电商交易数据,Nutch,Hadoop分布式集群
【来 源】 互联网
【收 录】 中国学术期刊网
相关推荐
热门期刊
《中国机构改革与管理》 《中国机构改革与管理》杂志,于2011年经国家新闻出版总署批准正式创刊,CN:10-1002/D,本刊在国内外有广泛的覆盖面,题材新颖,信息量大、时效性强的特点,其中主要栏目有:...
《石油化工应用》 《石油化工应用》(月刊)创刊于1981年,由宁夏石油学会主办。是国内外公开发行的石化类综合性科技期刊,办刊宗旨是为石油化工行业的科研人员开展技术交流服务,为科研人...
《江西煤炭科技》 《江西煤炭科技》(季刊)创刊于1979年,是由江西省煤炭集团公司,江西省煤炭学会,江西省煤炭经济研究会,江西省煤炭工业科研所主办的煤炭工业刊物。重点报道全省煤炭生...
《丝路艺术》 《丝路艺术》杂志,于2016年经国家新闻出版总署批准正式创刊,CN:45-1403/J,本刊在国内外有广泛的覆盖面,题材新颖,信息量大、时效性强的特点,其中主要栏目有:戏剧美术、...
《世界环境》 并非《世界环境》杂志官方网站。办理其他业务请联系杂志社。 《世界环境》杂志,于1983年经国家新闻出版总署批准正式创刊,CN:11-2397/X,本刊在国内外有广泛的覆盖面...
《中国社会科学院研究生院学报》 《中国社会科学院研究生院学报》杂志,于1979年经国家新闻出版总署批准正式创刊,CN:11-1131/C,本刊在国内外有广泛的覆盖面,题材新颖,信息量大、时效性强的特点,其中主...