大数据的核心是云技术和BI(图)

  关于大数据和云计算的关系人们通常会有误解。而且也会把它们混起来说,分别做一句话直白解释就是:云计算就是硬件资源的虚拟化;大数据就是海量数据的高效处理。如果做一个更形象的解释,云计算相当于我们的计算机和操作系统,将大量的硬件资源虚拟化之...

分享:

大数据时代,如何防止“数据裸奔”

     隐私OR便利     互联网上的“透明人”  “中国人更加开放,对隐私问题没有那么敏感,很多情况下他们愿意用隐私交换便利性。”今年3月,一位知名互联网企业负责人在公开场合谈到个人信息保护的问题。然而,这一言论迅速击...

分享:

什么是大数据?大数据用来干嘛?(图)

  1、何为大数据?  大数据是指很多很多的数据,主要源于web2.0之后,数据库中的数据量累计起来很庞大,在对数据进行操作(主要指查询)会变得很慢,对机器的性能要求会很高,如果数据量达到足够大(如十几亿),那服务器会崩溃的  2、大数据解决什么...

分享:

大数据学习的思维原理和方法?

  1、数据核心原理  从“流程”核心转变为“数据”核心  大数据时代,计算模式也发生了转变,从“流程”核心转变为“数据”核心。Hadoop体系的分布式计算框架已经是“数据”为核心的范式。非结构化数据及分析需求,将改变IT系统的升级方式:从简单增...

分享:

大数据系列(1)——Hadoop集群坏境搭建配置(图)

  前言  关于时下最热的技术潮流,无疑大数据是首当其中最热的一个技术点,关于大数据的概念和方法论铺天盖地的到处宣扬,但其实很多公司或者技术人员也不能详细的讲解其真正的含义或者就没找到能被落地实施的可行性方案,更有很多数据相关的项目比如弄...

分享:

大数据以及Hadoop相关概念介绍(图)

  一、大数据的基本概念  1.1、什么是大数据  大数据指的就是要处理的数据是TB级别以上的数据。大数据是以TB级别起步的。在计算机当中,存放到硬盘上面的文件都会占用一定的存储空间,例如:     文件占用的存储空间代表的就是该文件的大...

分享:

MySQL大数据量分页查询方法及其优化

  ---方法1: 直接使用数据库提供的SQL语句  ---语句样式: MySQL中,可用如下方法: SELECT * FROM 表名称 LIMIT M,N  ---适应场景: 适用于数据量较少的情况(元组百/千级)  ---原因/缺点: 全表扫描,速度会很慢 且 有的数据库结果集返回不稳定(如某次返...

分享:

如何快速全面建立自己的大数据知识体系(图)

  很多人都看过不同类型的书,也接触过很多有关大数据方面的文章,但都是很零散不成系统,对自己也没有起到多大的作用,所以作者第一时间,带大家从整体体系思路上,了解大数据产品设计架构和技术策略。  大数据产品,从系统性和体系思路上来做,主要分...

分享:

大数据到底怎么学:数据科学概论与大数据学习误区(图)

  “数据科学家走在通往无所不知的路上,走到尽头才发现,自己一无所知。”-Will Cukierski,Head of Competitions & Data Scientist at Kaggle  最近不少网友向我咨询如何学习大数据技术?大数据怎么入门?怎么做大数据分析?数据科学需要学习那些...

分享:

大数据操作:删除和去重

  一些看似简单的数据操作,当作用于海量数据集时,就会出现“意料之外,却在情理之中”的问题,海量数据操作,需要采用特殊方法,才能“曲径通幽”。在删除海量数据时,需要注意日志的增长,索引碎片的增加和数据库的恢复模式,特别是利用大容量日志操作...

分享:

Hadoop学习(一)环境安装和集群创建

  虚拟机使用vmware,vmware可以直接百度下载安装 秘钥也能百度到 安装很简单  CentOS 7下载:   进入官网 https://www.centos.org/download/   这里有三种 第一个是标准版 第二个是全部版 第三个是最小版 每个版本的大小都不一样,这里...

大数据这么火,它究竟是什么?(图)

  大数据是什么?  大数据(Big Data)概念是1998年由SGI首席科学家John Masey在USENIX大会上提出的。他当时发表了一篇名为Big Data and the Next Wave of Infrastress的论文,使用了大数据来描述数据爆炸的现象。但大数据真正得到业界关注,则是其后多...

分享:

Hadoop系列:hdfs文件系统的基本操作

  可以执行所有常用的Linux文件操作命令(读取文件,新建文件,移动文件,删除文件,列表文件等)  1.help命令获取没个命令的帮助  [cloudera@quickstart ~]$ hadoop fs -help  Usage: hadoop fs [generic options]         &nbs...

基于Hadoop的大数据平台实施——整体架构设计(图)

  大数据的热度在持续的升温,继云计算之后大数据成为又一大众所追捧的新星。我们暂不去讨论大数据到底是否适用于您的公司或组织,至少在互联网上已经被吹嘘成无所不能的超级战舰。好像一夜之间我们就从互联网时代跳跃进了大数据时代!关于到底什么是大数...

如何在万亿级别规模的数据量上使用Spark(图)

  一、前言  Spark作为大数据计算引擎,凭借其快速、稳定、简易等特点,快速的占领了大数据计算的领域。本文主要为作者在搭建使用计算平台的过程中,对于Spark的理解,希望能给读者一些学习的思路。文章内容为介绍Spark在DataMagic平台扮演的角色、如何...

#
Spark
分享:

Spark 核心概念RDD(图)

  文章正文  RDD全称叫做弹性分布式数据集(Resilient Distributed Datasets),它是一种分布式的内存抽象,表示一个只读的记录分区的集合,它只能通过其他RDD转换而创建,为此,RDD支持丰富的转换操作(如map, join, filter, groupBy等),通过这种转换操...

#
Spark
分享:

Hadoop — MapReduce原理解析(图)

  1. 概述  Mapreduce是一个分布式运算程序的编程框架,是用户开发“基于hadoop的数据分析应用”的核心框架;  Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个hadoop集群上;  1.1 Ma...

分享:

干货整理:处理不平衡数据的技巧总结(图)

  在银行欺诈检测,市场实时竞价或网络入侵检测等领域通常是什么样的数据集呢?  在这些领域使用的数据通常有不到1%少量但“有趣的”事件,例如欺诈者利用信用卡,用户点击广告或者损坏的服务器扫描网络。  然而,大多数机器学习算法对于不平衡数据集...

分享:

大数据之谜Spark基础篇,核心RDD特征分析讲解(图)

  RDD特征概要总结:  a、RDD是Spark提供的核心抽象,全称为Resillient Distributed Dataset,即弹性分布式数据集。  b、RDD在抽象上来说是一种元素集合,包含了数据。它是被分区的,分为多个分区,每个分区分布在集群中的不同节点上,从而让RDD中的...

分享:

记一次大数据爬坑

  前言  Vertx  Vertx是一个高效的异步框架,支持Java、Scala、JavaScript、Kotlin等多种语言。在非性能调优的场景下,TPS可以高达2-3万,同时,支持多种数据源也提供了异步支持。  Phoenix  大数据的同学肯定对其很了解,是Apache基金会下的顶级...

分享:
分享到朋友圈
打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

联系我们

快捷面板 站点地图 联系我们 广告服务 关于我们 站长统计

法律顾问:上海漕溪律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2022
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪ICP备05003035号

沪公网安备 31010102002173号