用spark读取及存储数据

文章目录


读取数据

data = spark.sql("""select * from temp.tables""")
data.show(3)

# 转成pandas方式
# df = data.toPandas()
# df.head(3)

存储数据

table = "temp.new_tables"
data.write.format("hive").mode("overwrite").saveAsTable(table)
data = spark.sql("""select * from temp.new_tables""")
data.show(3)

# 转成pandas方式
# df = data.toPandas()
# df.head(3)

相关推荐

  1. spark读取存储数据

    2024-03-10 21:56:03       45 阅读
  2. spark: 从pulsar中读取数据

    2024-03-10 21:56:03       44 阅读
  3. 20.python——数据读取存储

    2024-03-10 21:56:03       45 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-10 21:56:03       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-10 21:56:03       100 阅读
  3. 在Django里面运行非项目文件

    2024-03-10 21:56:03       82 阅读
  4. Python语言-面向对象

    2024-03-10 21:56:03       91 阅读

热门阅读

  1. Gson(List<Object>转String 、String转List<Object>)

    2024-03-10 21:56:03       43 阅读
  2. 手机中常用的传感器

    2024-03-10 21:56:03       41 阅读
  3. vuej介绍

    2024-03-10 21:56:03       49 阅读
  4. 常见的排序算法-(字解版)

    2024-03-10 21:56:03       43 阅读
  5. 基于动态内存设计的通讯录

    2024-03-10 21:56:03       38 阅读
  6. 分布式全局唯一ID,我这就告诉你怎么搞!

    2024-03-10 21:56:03       48 阅读
  7. NOIP 2018 普及组初赛试题及解析

    2024-03-10 21:56:03       46 阅读
  8. openCV源码安装与卸载

    2024-03-10 21:56:03       41 阅读
  9. leetcode 第388场周赛第一题

    2024-03-10 21:56:03       33 阅读
  10. Gitlab部署流程

    2024-03-10 21:56:03       42 阅读