行业新闻
2015年主宰大数据技术的发展趋势

  1.数据的灵活性成为焦点
  随着传统数据库(database)和数据仓库(data warehouse)的运行越来越缓慢,并很难满足企业业务的发展需要,数据的灵活性就成为了推动大数据技术发展的一个重要推动力。2015年,随着企业逐渐从简单地收集和管理数据过渡到真正使用这些数据,数据灵活性将越来越重要。
传统数据库和数据仓库运行成本很高,因此DBA(数据库管理员)资源需要对数据进行扁平化和结构化处理。高DBA的预付成本阻碍了对新数据资源的接入,同时这种严格的架构短时间内很难改变,其最终的结果导致传统数据库变得不够灵活,不能满足当前大多数企业或组织机构的需求。”
早期的大数据项目专注于对目标数据资源的存储,而对于有多少数据被管理则并不是非常在意,对此企业在今后需要将其注意力转移到测评数据的灵活性上。如何处理或分析数据,以便对运营产生一定的影响?当用户偏好,或市场情况、竞争趋势,以及运营状态发生变化时,企业该如何调整和应对?这些问题都将引领2015年大数据项目的投资和发展范围。
  2.企业逐渐从数据湖转向数据处理平台发展

  某种情况来说,2014年的大数据领域实际上就是一种“数据湖(data lake)”的状态,一种基于对象的数据存储方式将收集来的数据以其最原生的格式(结构化的、非结构化的或半结构化的)存储下来留作日后使用。“数据湖”具有很高的价值定位,它代表了一种可扩展的基础架构,非常经济且超级灵活。随着多计算和执行能力的加强,将推动企业从大量收集数据转变为适当地处理数据,2015年“数据湖”将会继续演进。这不仅会带来更大的效率,同时也产生了单点管理和单点安全。2015年,随着企业数据的分批处理到实时处理的变化,以及企业整合Hadoop和数据库到其大规模处理平台上,“数据湖”会得到进一步的发展。换句话说,这一趋势并不是指“数据湖”里大规模用来支持更大的查询和报告的数据存储,而是对数据的持续访问和处理,同时企业将会更多地关注实时数据,并采取主动措施。
  3. Hadoop将成为企业的关键应用组件

  Hadoop在普及的过程中,大数据也不会再继续止步于云服务,而是部署于企业的云平台中和云服务有效的结合,并且发挥更重要的力量和作用。2015年,Hadoop的适用场景将超越批处理和海量数据存储,在数据挖掘、深度学习和用户服务等领域发力,在这一进程中将成为企业数据架构中通用的核心组件,这意味着数据分析、决策支持将继续成为大数据的首要用例和重要应用。
  企业可以用大数据来做什么呢?
  比如某银行,将客户使用信用卡加油与吃饭的信息关联起来进行分析,通过数据的挖掘,卡中心发现,在周末18:00之前加油的客户,有60%会去吃饭;再结合LBS信息,分析客户就餐区域,发现其中70%有去中心城区吃饭的习惯。于是信用卡中心与中心城区的某烤肉店合作,在每个周末17:30的时候,向驶出加油站的客户,打出这样的手机广告:”物超所值,美味、环境优雅,价格适中,朋友聚会的理想场所,持银行卡可享五折优惠!”这种服务就让卡的用户感觉到非常贴心,走进了用户的心里,觉得这个卡是真的懂他!这是一个典型的企业大数据应用,在2015年,还会有更多的大数据企业级应用和新的商业模式出现。
  4.Hadoop加强支持实时应用和得到企业级强化

  未来1年建立在Hadoop平台上的交互式应用程序将呈爆发式增长,其中包括Web应用、移动应用和社交应用,人们可以与之进行实时的交互。
2015将加强支持实时的大数据应用,企业将不会局限于处理分析历史数据,而是将有能力处理、决策5分钟,甚至是实时的数据;企业将拥有交互式应用程序,以便实时的制定决策。同时,Hadoop已经是个了不起的平台,但是仍然有许多工作要做。在2015年,将看到Hadoop向安全、运营管理、资源管理及多站点响应方向发展;将看到所有的企业级需求,将是未来主要的焦点。
  5.新的技术堆栈

  2015年,随着企业架构师对Hadoop技术堆栈不断深入地了解,他们也慢慢地发挥着重要的作用,即对大数据应用的需求进行了更好地的定义和更加复杂的陈述,其中的一些因素包含了高可用性和业务连续性。随着企业在数据中心中迅速地从试验阶段走向实际部署阶段,企业架构师开始走到前台来,并在大数据部署的道路上发挥着重要作用。IT领导者选择基础架构方面也发挥着至关重要的作用,所选择的基础架构需要满足SLA的要求,并具备高可靠性、业务连续性,同时满足重要的业务需求。在2014年,Hadoop生态系统一直蓬勃发展,并产生大量的应用、工具和组件。预计2015年,该市场将关注跨平台之间的差异性,同时企业的基础架构中也将整合Hadoop到数据中心中去,并产生一定的商业价值。
  6.Hadoop供应商整合 新商业模式出现

  2013年,英特尔发布了其Hadoop的分发版,这在业界引起了不小的轰动。英特尔表示在这个分发版中,他们采用了一种全新的方法,可以直接将Hadoop整合到芯片中。但是仅仅一年之后,英特尔就放弃这一分发版,并迅速被Hadoop分发版供应商Cloudera替代。那时候,英特尔表示,用户都在关注Hadoop市场将如何发展、发展成什么样。而Hadoop产品的供应商也是多种多样、鱼龙混杂。随着失败的企业不再继续发展和推出其Hadoop分发版,转而关注其他领域,在2015年Hadoop供应商整合将会成为一种趋势,持续进行。开源软件(OSS)的使用到目前为止已经有20年的时间了,而且它给整个市场也带来了巨大价值。技术的发展成熟需要几个阶段。技术的生命周期是以创新和开发高度差异化产品为开始,再以产品最终走向商业化为结束。被誉为“关系数据库之父”的Edgar Frank Codd在1969年提出了“关系数据库”的概念,1986年,甲骨文借助这一创新概念的发展成功上市。同时,这一创新概念也促进了1995年第一个MySQL发放版的商业化进程。所以,从历史的角度来看,数据库平台技术从最初的创新到最后的商业化,经历了26年的时间走向成熟。目前,Hadoop还处于技术成熟周期的早期阶段,从谷歌发布富有影响力的MapReduce白皮书至今仅仅过去了10年的时间。自最初的概念提出发展到现在的10年里,Hadoop得到了全球范围内的部署和使用,并大大的超过了其他数据平台。目前,Hadoop还是处于创新阶段,所以供应商采取“Red Hat for Hadoop”策略的这种现象在市场也仍然存在,其中最明显的是英特尔,其次是EMC Pivotal。2015年业界将会看到一个新的、更加微妙的OSS模式的演进,这一新模式的演进和发展将社区发展与深度创新结合到了一起。开源社区是创建标准和达成共识的一个重要区域,而竞争则是促进Hadoop从最初的分析处理器向全功能数据平台发展、演变的加速器。
  未来的大数据是什么样的?
  物联网?以云平台、大数据技术为主支撑的智能家居?还是超级人工智能?想想这样一个场景:当你疲惫了一天,回到家里,点点手机窗帘就自动关上,再点点手机灯就亮了,在回来的路上凭借一个大数据的服务应用已经把饭做好,吃完饭后洗澡水也已经放好…….手机操控着家中的一切,恐怕这是很多人梦寐以求的未来智能家居吧。毋庸置疑,大数据带给我们的是越来越多的便利。数据挖掘、深度学习凭借着大数据技术和后台云平台的支持也会带给我们越来越好的服务。在2015年,还会有更多的大数据服务和新的解决方案出现。
  7. R将取代传统SAS解决方案

  在2013年,cloudera公司发布了hadoop平台的R接口,大大促进了在haddop生态系统里的R应用。随着R语言越来越广泛的被使用以及其在机器学习、数据挖掘等领域的出色表现,基于R编程语言的分析将被选为数据科学家的“御用”模式,这种分析在2015年将成为主流,并且替代传统的SAS及SPSS模式。市场显示,超过200万用户和300万的分析师都在寻找更好的解决方案,R恰逢其时。
  8. 服务大数据成为主流

  随着大数据工具和服务的发展,2015年,IT行业将逐渐缓解发展瓶颈的局面,许多商业用户和数据科学家将会借助相关工具和服务访问大量数据。2015年,自助服务大数据将成为IT行业的一种趋势,它允许商业用户可以通过自助服务接触大数据。自助服务还可以帮助开发者、数据科学家和数据分析师直接进行数据探索和处理工作。在此之前,IT行业要求建立一种集中的数据结构,但是这非常消耗时间和成本。针对某些用户案例,Hadoop可以帮助企业适应structure-on-read这种结构模式。一些先进的组织机构将会通过数据绑定的运行模式而非集中的结构来满足持续的需求。这种自助服务模式将促进企业更好地利用新的数据资源,同时又能够抓住新的市场机遇,应对问题和挑战。
  综上所述,未来几年,在基于云的大数据分析解决方案上的开支,增速是现有解决方案投资的3倍,混合型部署将成为一项要求。可视化数据发现工具是其他业务智能市场板块增速的2.5倍,预计将来,这方面的投资将会让终端用户自主服务成为所有企业的要求。2015年,统一数据平台架构将成为大数据分析战略的基础,平台集成了高级分析和预测分析的应用,包括机器学习,将在2015年有所加速,比不具备这些功能的应用增长速度高出65%。另外,预计70%的大型企业机构会购买了外部数据,到2019年这个比例将达到100%。越来越多的企业机构将通过出售数据或者提供有价值的附加内容实现数据的货币化。同时,到2015年,对事件流持续分析的技术普及将有所加速,它可运用于物联网分析,预计其5年复合年增长率为30%;决策管理平台的复合年增长率将达到60%。
  到2015年,富媒体分析至少会翻三番,作为大数据分析技术投资的关键推动因素。未来,半数的消费者在日常生活中都会用到基于认知计算的服务。