相对于动辄TB级别的数据,计算程序一般在KB – MB量级,这种移动计算不移动数据的设计节约了大量网络带宽和时间,并使得运算过程可充分并行化。
在其诞生后的近10年里,Hadoop凭借其简单、易用、高效、免费、社区支持丰富等特征成为众多企业云计算、大数据实施的首选。
Storm
Hadoop虽好,却有其“死穴”.其一:它的运算模式是批处理。这对于许多有实时性要求的业务就无法做到很好的支持。
因此,Twitter推出了他们自己的基于流的运算框架——Storm。不同于Hadoop一次性处理所有数据并得出统一结果的作业(job),Storm对源源导入的数据流进行持续不断的处理,随时得出增量结果。
Hadoop的另一个致命弱点是:它的所有中间结果都需要进行硬盘存储,I/O消耗巨大,这就使得它很不适合多次迭代的运算。而大多数机器学习算法,恰恰要求大量迭代运算。
猜你喜欢
-
互联网领域里的“大数据产业”,到底是个啥?
近两年我们经常能在互联网领域听到“大数据”这个词汇,但对于大数据,我们所了解的并不多,如果在后面加上个产业,或许很多...更多
2018-03-29 14:25:23
-
中国大数据公司一览,腾讯阿里无悬念入选
在这个大数据时代,国外的大数据公司已经快步前进,而国内的互联网公司们,也加重了对大数据的支持和研究,而在这些新近崛起...更多
2018-03-28 17:52:35
-
高端!大数据所涉及的关键技术盘点
现如今我们都说大数据,在大数据时代,似乎我们的一举一动都会被计入到数据之中,然后以数值的方式呈现出来,从而让机器更智...更多
2018-03-21 14:09:35
-
求生者只能等死!第五人格红蝶介绍
第五人格的红蝶怎么玩?第五人格的新角色红蝶一上线就受到了广大玩家的追捧,导致游戏需要排队才能登上去,那么这个角色有什...更多
2018-05-18 17:30:39
-
一加6:对于红外遥控功能又是一个遗憾
随着手机的不断进步与发展,现在手机很多都是有红外遥控功能的,对于一加6这款手机来说,新机发布,大家对于一加6是否支持红...更多
2018-05-18 10:11:11
-
电子竞技正式加入第18届亚运会!
电子竞技入选亚运会你怎么看?最近第18届亚运会官方宣布了电子竞技入选亚运会,包括英雄联盟等热门游戏将会亮相亚运会赛场。...更多
2018-05-17 17:35:05
-
邓紫棋和华晨宇的恋情也是见光死
邓紫棋被曝光新恋情,就在大家都以为这次是确定了邓紫棋和华晨宇恋情的时候,没想到人家邓紫棋牵手的是另一个人!这邓紫棋和...更多
2017-04-19 16:50:15
-
邓紫棋和林宥嘉是分手后互黑的典型
邓紫棋和林宥嘉交往过这件事应该没有人不知道吧,即便是在两人交往的时候不了解,后来他们分手的时候也应该知道了!因为邓紫...更多
2017-04-19 16:47:32
-
陈奕迅老婆一直被骂败家!他俩却感情依旧
陈奕迅和老婆徐濠萦已经结婚多年了,这两人的感情史也早就被曝光!陈奕迅和徐濠萦是怎么在一起的呢?这些年徐濠萦可没少被骂...更多
2017-04-18 16:15:53