大数据存储与处理技术之Spark

1、Spark简介

Spark最初由美国加州伯克利大学(UC Berkeley)的AMP实验室于2009年开发,是基于 内存 计算的大数据并行计算框架,可用于构建大型的、低延迟的数据分析应用程序
2013年Spark加入Apache孵化器项目后发展迅猛,如今已成为Apache软件基金会最重要的分布式计算系统开源项目之一
Spark在2014年打破了Hadoop保持的基准排序纪录
Spark用十分之一的计算资源,获得了比Hadoop快3倍的速度

Spark具有如下几个主要特点:

•运行速度快:使用DAG执行引擎以支持循环数 据流与内存计算
•容易使用:支持使用Scala、Java、Python和 R语言进行编程,可以通过Spark Shell进行交互式编程
•通用性:Spark提供了完整而强大的技术栈,包括SQL查询、流式计算、机器学习和图算法组件
•运行模式多样:可运行于独立的集群模式中可运行于Hadoop中(YARN),也可运行于Amazon EC2等云环境中,并且可以访问HDFS、Cassandra、HBase、Hive等多种数据源

2、Scala简介

Scala是一门现代的多范式编程语言,同时融合了函数式编程风格和面向对象的编程风格,运行于Java平台(JVM,Java 虚拟机),并兼容现有的Java程序。

Scala的特性:

•Scala具备强大的并发性,支持函数式编程,集成了面向对象和函数式编程两种风格,可以更好地支持分布式系统
•Scala语法简洁,能提供很好的API
•Scala兼容Java,运行速度快,且能融合到Hadoop生态圈中
        ➢ Scala是Spark的主要编程语言,但Spark还支持Java、Python、R作为编程语言
        ➢ Scala的优势是提供了REPL(Read-Eval-Print Loop,交互式解释器),提高程

相关推荐

  1. 数据存储处理技术Spark

    2024-01-31 08:32:03       31 阅读
  2. 数据 spark 算子

    2024-01-31 08:32:03       32 阅读
  3. Spark数据处理的璀璨明星

    2024-01-31 08:32:03       12 阅读
  4. Spark数据处理 掌握Scala运算符

    2024-01-31 08:32:03       9 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-01-31 08:32:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-01-31 08:32:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-01-31 08:32:03       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-01-31 08:32:03       20 阅读

热门阅读

  1. C++ 实现单例模式

    2024-01-31 08:32:03       31 阅读
  2. Vue 甘特图 gantt 安装使用

    2024-01-31 08:32:03       34 阅读
  3. 分布式集群如何保证线程安全

    2024-01-31 08:32:03       30 阅读
  4. 贪吃蛇游戏中显示贪吃蛇的路线和蛇的宽度

    2024-01-31 08:32:03       32 阅读
  5. Maltab 输出矢量图

    2024-01-31 08:32:03       35 阅读
  6. CSS transition(过渡效果)详解

    2024-01-31 08:32:03       33 阅读