Hadoop大数据分析平台的介绍性讨论

发表于:2019-4-24 11:29

字体: | 上一篇 | 下一篇 | 我要投稿

 作者:爱码农    来源:今日头条

  Hadoop大数据分析平台的介绍性讨论,以及可与Hadoop集成的其他工具,以实现更好的数据提取和分析。
  Hadoop是迄今为止MapReduce最主流的执行,是一个完全开源的平台,用于处理大数据。它具有足够的适应性,能够同时处理各种数据源,或者汇集不同的信息源(记住进行大规模处理的最终目标)或者从数据库中读取数据以便运行处理器 - 学习机器学习的工作。它有一些独特的应用; 然而,最好的用例之一是大量不断发展的数据,例如,来自气候或运动传感器的基于区域的信息,基于在线或基于网络的社交网络信息,或基于机器对机器价值的数据。
  
  我们将讨论Hadoop特有的一些优点,使其成为数据处理目的的最佳和最大技术,其次是着名的工具及其用途。
  Hadoop的优点
 
  可扩展
  Hadoop是一个特别通用的存储平台,因为它可以在几个并行工作的廉价服务器上存储和适当的广泛信息索引。与习惯性关系数据库系统(RDBMS)不同,Hadoop无法扩展以同时处理大量信息,它使组织能够在大量节点上运行应用程序,包括大量的TB级信息处理。
  便宜
  Hadoop是一个提供廉价存储解决方案的平台。习惯性关系数据库管理系统的问题在于,它在很大程度上具有成本限制,可以扩展到您处理巨大数据量的程度。为了降低成本,公司使用下采样数据并根据某些假设对其进行分类,并删除剩余的原始数据。因此,当业务优先级发生变化时,整个原始数据模型都不可用。
  适应性强
  Hadoop使组织能够毫不费力地查找数据源并利用各种数据(有组织的和非组织的)。这意味着组织可以利用Hadoop从信息源获取重要的面向业务的知识,例如,在线网络,电子邮件讨论或点击流信息。此外,Hadoop可用于各种用途,例如,日志准备,提案框架,信息仓库,营销活动分析以及检测欺诈和虚假陈述等等。
  快速
  Hadoop的独一无二的存储策略取决于传播的文档框架,该框架基本上将数据“映射”在集群中的任何位置。用于数据准备的工具经常在数据实际所在的类似服务器上找到,从而实现更快速的数据处理。如果您正在管理大量非结构化数据,Hadoop可以在几分钟内有效地处理数TB的数据,并且可以在数小时内处理数PB。
  加速容错
  利用Hadoop进行数据处理的一个主要优点是它适应了非关键性故障。在将信息发送到单个节点时,该信息另外被再现到集群中的各个不同节点,这意味着在出现故障或错误的情况下,存在可供使用的另一个副本。
  Hadoop工具可实现 更好的数据处理
  MongoDB
  
  MongoDB是处理数据库管理的高级方法,是传统数据库的另一种选择。该Hadoop分析工具监控非结构化或半组织信息以及经常持续变化的信息。
  OpenRefine
  
  一旦被称为GoogleRefine,OpenRefine就是一个数据检查工具和一个开源Hadoop工具,它可以捕获原始数据。客户可以毫不费力地分析大量非结构化数据。
  Cloudera
  
  这个出色的Hadoop工具为数据库管理,管理和处理提供了额外的好处。它建立了一个重点组织数据中心,其最终目标是让您的团队更好地访问存储的数据,并谨慎地查看它以报告重要的业务洞察。
  RapidMiner
  
  这种有先见之明的数据检查工具得到了德勤,思科和eBay等众多组织的支持。开源信息调查工具促进了令人敬畏的团队支持,并且使用起来既简单又可行。这个BI设备最好的事情是客户可以通过选择API合并他们的特定计算。图形用户界面的构建方式使得即使是非技术客户也可以轻松使用此工具。
  Qubole
  
  这种易于使用的Hadoop工具允许团队扩展其大数据分析,从而可以提取存储在Google,Azure和AWSmist中的数据。它易于学习,不需要任何广泛的基础设施基础。如果您已经设置了IT安排,您可以在您的组中合并任意数量的大数据分析师,他们将在不同的数据处理引擎中协作创建由各种调查工具生成的解决方案。

     上文内容不用于商业目的,如涉及知识产权问题,请权利人联系博为峰小编(021-64471599-8017),我们将立即处理。
《2023软件测试行业现状调查报告》独家发布~

关注51Testing

联系我们

快捷面板 站点地图 联系我们 广告服务 关于我们 站长统计 发展历程

法律顾问:上海兰迪律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2024
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪ICP备05003035号

沪公网安备 31010102002173号