Hive安装笔记——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2:离线数据处理

将下发的ds_db01.sql数据库文件放置mysql中

12、编写Scala代码,使用Spark将MySQL的ds_db01库中表user_info的全量数据抽取到Hive的ods库中表user_info。字段名称、类型不变,同时添加静态分区,分区字段为etl_date,类型为String,且值为当前日期的前一天日期(分区字段格式为yyyyMMdd)。使用hive cli执行show partitions ods.user_info命令,将结果截图粘贴至答案表.docx中对应的任务序号下;
13、 编写Scala代码,使用Spark将MySQL的ds_db01库中表sku_info的全量数据抽取到Hive的ods库中表sku_info。字段名称、类型不变,同时添加静态分区,分区字段为etl_date,类型为String,且值为当前日期的前一天日期(分区字段格式为yyyyMMdd)。使用hive cli执行show partitions ods.sku_info命令,将结果截图粘贴至答案表.docx中对应的任务序号下;

软件名称

版本

ubuntu

18.04    64 位

Hadoop:hadoop-3.1.3.tar.gz

3.1.3

Jdk:jdk-8u212-linux-x64.tar.gz

1.8

Spark:spark-3.1.1-bin-hadoop3.2.tgz

3.1.1

Hive:apache-hive-3.1.2-bin.tar.gz

3.1.2

MySQL

5.7

Scala:scala-2.12.x.tgz

2.12

Vue.js

3.2

ECharts

5.1

JDBC驱动:   mysql-connector-java-5.1.37.jar

集成开发工具:IDEA 2022 社区版

一、Hive安装地址

1)Hive官网地址


Apache Hiveicon-default.png?t=N7T8https://hive.apache.org/
2)文档查看地址


GettingStarted - Apache Hive - Apache Software Foundationicon-default.png?t=N7T8https://cwiki.apache.org/confluence/display/Hive/GettingStarted
3)下载地址


Index of /dist/hive (apache.org)icon-default.png?t=N7T8http://archive.apache.org/dist/hive/

二、Hive安装部署

1. 把 apache-hive-3.1.2-bin.tar.gz上传到Linux的/export/software目录下


 

相关推荐

最近更新

  1. TCP协议是安全的吗?

    2023-12-29 02:26:03       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2023-12-29 02:26:03       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2023-12-29 02:26:03       18 阅读
  4. 通过文章id递归查询所有评论(xml)

    2023-12-29 02:26:03       20 阅读

热门阅读

  1. 音视频本地推送标题不显示昵称的排查方法

    2023-12-29 02:26:03       38 阅读
  2. Linux Tools Quick Tutorial 学习记录

    2023-12-29 02:26:03       34 阅读
  3. 炮炮面试——经典面试问题汇总

    2023-12-29 02:26:03       38 阅读
  4. VOL_dev问题随记----question++!!!

    2023-12-29 02:26:03       40 阅读
  5. 区块链背后的秘密:从交易看故事

    2023-12-29 02:26:03       42 阅读
  6. Hotspot源码解析-第九章

    2023-12-29 02:26:03       39 阅读
  7. 我的笔记本电脑死机问题折腾记录

    2023-12-29 02:26:03       34 阅读
  8. 【持续学习系列(四)】《Lifelong-RL》

    2023-12-29 02:26:03       33 阅读
  9. Day01-ES6

    2023-12-29 02:26:03       34 阅读
  10. WPF DataGrid

    2023-12-29 02:26:03       35 阅读
  11. 文件管理练习

    2023-12-29 02:26:03       38 阅读
  12. 基于Antlr4实现自定义语法规则

    2023-12-29 02:26:03       39 阅读
  13. 如何利用 NAS 搭建网站服务器?

    2023-12-29 02:26:03       31 阅读
  14. The connection to the server localhost:8080

    2023-12-29 02:26:03       35 阅读