1.0 Hadoop 教程

Hadoop 是一个开源的分布式计算和存储框架,由 Apache 基金会开发和维护。

Hadoop 为庞大的计算机集群提供可靠的、可伸缩的应用层计算和存储支持,它允许使用简单的编程模型跨计算机群集分布式处理大型数据集,并且支持在单台计算机到几千台计算机之间进行扩展。

Hadoop 使用 Java 开发,所以可以在多种不同硬件平台的计算机上部署和使用。其核心部件包括分布式文件系统 (Hadoop DFS,HDFS) 和 MapReduce。

Hadoop 历史

2003 年和 2004 年,Google 公司先后发表了两篇著名的论文 GFS 和 MapReduce。

这两篇论文和 2006 年发表的 BigTable 成为了现在著名的"Google 三大论文"。

Doug Cutting 在受到了这些理论的影响后开始了 Hadoop 的开发。

Hadoop 包含了两大核心组件。在 Google 的论文中,GFS 是一个在庞大的计算机集群中运行的分布式文件系统,在 Hadoop 中 HDFS 实现了它的功能。MapReduce 是一个分布式计算的方式,Hadoop 用同名称的 MapReduce 框架实现了它的功能。我们会在之后的 MapReduce 章节中详细介绍它。 从 2008 年开始,Hadoop 作为 Apache 顶级项目存在。它与它的众多子项目广泛应用于包括 Yahoo、阿里巴巴、腾讯等大型网络服务企业,并被 IBM、Intel、Microsoft 等平台公司列为支持对象。

Hadoop 的作用

Hadoop 的作用非常简单,就是在多计算机集群环境中营造一个统一而稳定的存储和计算环境,并能为其他分布式应用服务提供平台支持。

也就是说, Hadoop 在某种程度上将多台计算机组织成了一台计算机(做同一件事),那么 HDFS 就相当于这台计算机的硬盘,而 MapReduce 就是这台计算机的 CPU 控制器。

接下来我们将会讲解2.0 Hadoop 运行环境,希望你也能学会了;

希望你也学会了,更多编程源码模板请来二当家的素材网:https://www.erdangjiade.com

相关推荐

  1. 10-Hadoop组件开发技术

    2024-02-08 23:14:02       27 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-02-08 23:14:02       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-02-08 23:14:02       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-02-08 23:14:02       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-02-08 23:14:02       20 阅读

热门阅读

  1. <网络安全>《20 工业防火墙》

    2024-02-08 23:14:02       29 阅读
  2. C#的Char 结构的像IsLetterOrDigit(Char)等常见的方法

    2024-02-08 23:14:02       25 阅读
  3. 游戏如何选择服务器

    2024-02-08 23:14:02       33 阅读
  4. 《C++ Primer Plus》《2、开始学习C++》

    2024-02-08 23:14:02       39 阅读
  5. 面试复盘7——后端开发

    2024-02-08 23:14:02       32 阅读
  6. C语言数组语法解剖

    2024-02-08 23:14:02       32 阅读
  7. 2024/2/7

    2024-02-08 23:14:02       21 阅读
  8. C++生成动态库给C#使用

    2024-02-08 23:14:02       34 阅读
  9. LeetCode 491 递增序列

    2024-02-08 23:14:02       28 阅读
  10. 感觉 sheet.setDefaultColumnStyle 存在 bug

    2024-02-08 23:14:02       32 阅读
  11. springboot整合elasticsearch

    2024-02-08 23:14:02       27 阅读
  12. Spring状态机-待整理

    2024-02-08 23:14:02       26 阅读
  13. 【SQL高频基础题】610.判断三角形

    2024-02-08 23:14:02       27 阅读
  14. Docker安装ElasticSearch8.9.0

    2024-02-08 23:14:02       24 阅读
  15. CloudStack Agent重新安装与卸载指南

    2024-02-08 23:14:02       27 阅读
  16. C语言求数组中最大数的值

    2024-02-08 23:14:02       31 阅读
  17. HTTPS协议学习--一起学习技术干货之HTTPS

    2024-02-08 23:14:02       25 阅读