如何利用Python处理站点数据、格点观测数据、再分析ERA5;GLDAS、遥感数据、水文数据、气象数据、陆面模式数据、气候变化数据等

Python是功能强大、免费、开源,实现面向对象的编程语言,Python能够运行在Linux、Windows、Macintosh、AIX操作系统上及不同平台(x86和arm),Python简洁的语法和对动态输入的支持,再加上解释性语言的本质,使得它在大多数平台上的许多领域都是一个理想的脚本语言,特别适用于快速的应用程序开发。Python具有丰富和强大的库,能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。除了Python标准库,几乎所有行业领域都有相应的Python软件库,随着NumPy、SciPy、Matplotlib和Pandas等众多Python应用程序库的开发,Python在科学和工程领域地位日益重要,在数据处理、科学计算、数学建模、数据挖掘和数据可视化方面的优异性能使得Python在地球科学中地理、气象、气候变化、水文、生态、传感器等领域的学术研究和工程项目中得到广泛应用并高效解决各种数据分析问题,可以预见未来Python将成为科学和工程领域的主流程序设计语言。

1、提供虚拟机(Virtual Box)文件(预装好Anaconda环境,可直接使用)
2、提供原始数据和中间临时文件

专题一 Python重点工具讲解【打好基础】

Numpy:科学计算 Scipy:科学计算 Sklearn:机器学习 Matplotlib:可视化 Cartopy:地理数据可视化

GeoPandas:地理数据分析

专题二 常见地球科学数据讲解【掌握数据的特点】

1、站点数据 GSOD GHCN ISMN:国际土壤湿度测量网络数据

FLUXNET:全球通量观测网络数据

2、格点观测数据 CRU

CN05.1 OISST、HadSST

3、再分析 ERA5 GLDAS

4、遥感数据 GLEAM

Landsat

MODIS

TRMM

SMAP:土壤湿度主动被动遥感数据

专题三 使用Xarray处理netCDF和Geotiff数据

Xarray 读取&写入 netCDF文件 Groupby & resample 对时间、空间信息进行操作 Rasterio & rioxarray

专题四 使用Pysat进行大空间分析

1. 空间自相关分析 分析干旱事件发生的空间聚集性
2. 空间回归模型 建模气温与地形因素的空间关系 GWR模型评估地形对降水分布的局部影响 
3. 空间点模式分析 探测极端天气事件的热点区域
4. 时空数据分析 评估城市热岛效应的时空演化

专题五 使用Dask进行大数据并行计算

使用Dask进行大数据并行计算 Arrays、DataFrames 无结构数据的并行处理 延迟计算
案例一:并行处理长时间序列的TRMM降水数据,识别极端降水事件的时空分布特征
案例二:利用Dask并行计算,快速监测全球范围内干旱的发生、发展和持续时间

专题六 使用Pandas分析时间序列数据-1

案例一:时间序列填补

案例二:极端风速重现期分析

案例三:台风个数统计

专题七 使用Pandas分析时间序列数据-2

1、环流指数与温度、降水变化的关联性 各环流指数对全球及区域温度变化的影响 环流指数与极端高温/低温事件的联系 环流指数与干旱/洪水事件的关联 环流指数对季风系统的影响

2、空间插值 使用Kriging进行站点数据插值  使用IDW插值生成高分辨率气温场

3、缺测数据插补 针对地面站点数据中的缺失值进行插补 利用机器学习算法插补遥感数据中的缺测像元 结合空间插值和时间插值等多种方法提高数据质量

专题八 使用Python处理遥感数据1以Landsat数据为例

1、大数据的可视化 GB级数据可视化
2、植被指数计算

3、裁剪区域 使用mask掩膜文件裁剪 使用shapefile文件裁剪

专题九 使用Python处理遥感数据2—以MODIS数据为例

1、预备工作: Python读取HDF4-EOS数据 使用GDAL库预处理 转投影为wgs84+lonlat 拼接多景影像

2、案例一:土地利用分析(MOD12C1) 2000-2020年青藏高原土地利用分析 分析不同土地利用分类上气温和降水的变化

3、案例二:生态系统生产力分析(MOD17A2) 青藏高原草场上土地利用GPP变化 分析草场GPP与降水之间关系(ERA5再分析数据)

4、案例三:分析积雪覆盖时间(MOD10A2) 2000-2020年间青藏高原积雪时间统计 分析祁连山不同高程带积雪时间统计(DEM:GTOP30S)

5、案例四:积雪与生产力之间的关系(MOD10A2和MOD17A2) 分析新疆北疆积雪覆盖时间与春季GPP的变化

专题十 使用Python处理站点数据以GSOD和气象共享网数据为例

1、数据的读取 读取美国NOAA的GSOD日值数据 读取气象共享网日值数据
2、数据清洗: 数据整理 异常值检测 阈值法 模型法 孤立森林
3、多时间尺度的统计: 年尺度统计 季尺度统计
4、站点插值:(随机森林树) 利用高程、经纬度插值气温数据

专题十一 使用Python处理遥感水文数据以TRMM遥感降水数据和GLEAM数据等为例

案例一:空间降尺度 使用NDVI、DEM和机器学习算法对TRMM降水数据降尺度

案例二:分析蒸散数据的年际变化 读取GLEAM数据,并分析蒸散发的年际变化 比较MODIS ET产品与GLEAM的差异

案例三:使用随机森林算法估算地表蒸散发 GLEAM和ERA5数据建立机器学习估算模型 在区域尺度上进行长时间序列模拟

案例四:比较多套土壤湿度产品 比较GLDAS、GLEAM和CCI SM

案例五:分析降水~蒸散发-土壤湿度关系 分析降水~蒸散发-土壤湿度的年际变化

专题十二 使用Python处理遥感和模式数据以PKU GIMMS NDVI遥感降水数据和GLDAS数据为例

案例一:结合GIMMS NDVI和陆面模式数据分析干旱影响 获取陆面模式模拟的土壤湿度数据 建立植被生产力与干旱的响应关系 评估不同地区的干旱敏感性

案例二:青藏高原地区干旱对高寒草地生态系统的影响 基于NDVI识别青藏高原历史干旱年份 结合GLDAS模拟的土壤温湿度等数据,分析干旱对植被的影响机制

专题十三 使用Python处理气候变化数据1观测数据

案例一:百年气温趋势:CRU数据

案例二:百年海温趋势:HadSST

案例三:再分析数据处理 ERA5数据气温评估

专题十四 使用Python进行气候诊断分析

在GHCN站点数据基础上 使用Mann-Kendall趋势检验 使用Mann-Kendall突变分析 和Sen's slope估计气候变化趋势 使用小波分析等分析周期

专题十五 使用Python处理气候变化数据2 以CMIP6数据为例

降尺度 Delta方法 百分位校正方法

案例一:计算极端气候指数
案例二:未来气候变化背景下中国地区GPP变化(CMIP6+MOD17+机器学习)
案例三:未来气候变化背景下中国地区土地利用变化

专题十六 使用Python对WRF模式数据后处理

案例一:空间坐标重采样
案例二:风速垂直高度插值 获取风机70和100m高度的风速和风向

专题十七 使用Python运行生态模型 以CN05.1数据和Biome-BGC生态模型为例

1、模型讲解 2、气象数据的准备 3、控制文件生成 4、模式的运行 Muliprocesing 并行运行 5、模式后处理 结果统计 结果可视化(NPP)

注:请提前自备电脑及安装所需软件


数据福利

赠送ERA5-LAND陆面再分析数据(5T左右)  
时间分辨率:hourly
空间分辨率:0.1°(等角lonlat投影+wgs84)
包含11个变量:温度、气压、辐射、蒸发、降水、湿度【详情见数据说明文件】

赠送ERA5大气再分析数据WRF驱动数据(28T左右)  
时空分辨率:0.25˚/hourly
时空覆盖:1940-2024/东亚范围

赠送FNL大气再分析数据WRF驱动数据  
时空分辨率:0.25˚/hourly
时空覆盖:1940-2024/东亚范围

赠送ERA5大气再分析数据地面数据  
时空分辨率:0.25˚/hourly
时空覆盖:1940-2024/东亚范围
包含变量:2m温度、地表气压、2m比湿、UV10m风速、土壤温湿度(4层)

赠送ERA5大气再分析数据大气数据(900G+)
时空分辨率:0.25˚/monthly
时空覆盖:1959-2021/全球范围
包含变量:大气分层的散度、云量分数 、地势高度、臭氧质量混合比、势能涡度、相对湿度、特定云冰水含量、特定云液态水含量、比湿、特定雨水含量、特定雪水含量、温度、风的U分量、风的V分量、垂直速度。

赠送ERA5大气再分析数据大气数据(4.7TB+)
时空分辨率:0.1˚/hourly
时空覆盖:1979-2022/亚洲东部[90-150E,30N-30S]
包含变量:2米露点温度、2米温度、裸土蒸发量、冠层顶部蒸发量、潜在蒸发量、土壤温度/水分(四层)、地表净热辐射、地表压力、地表向下太阳辐射、蒸发量、总降水量、土壤水分。

赠送CMIP5/6月尺度陆面气象数据(50G+)
包含变量:地面数据(温、压、湿、风、辐射和降水)
包含情景:historical(1850-2014)、ssp126(2015-2100)、ssp245(2015-2100)、ssp370(2015-2100)、ssp585(2015-2100)

赠送CMIP6月尺度生态相关数据
包含变量:陆面生态系统过程数据(NPP、NEP、GPP)
包含模型:10~17个模型不等
包含情景:historical(1950-2014)、ssp126(2015-2100)、ssp245(2015-2100)、ssp370(2015-2100)、ssp585(2015-2100)

赠送CMIP6日数据(1.8T+)
包含变量:地面数据(温、压、湿、风、辐射和降水)
包含模型:12个
包含情景:historical(1960-2014)、ssp126、ssp245、ssp370、ssp585

赠送CMIP6中德国MPI-ESM1-2-LR模式用于WRF的数据(1.5T+)
时空分辨率:0.25˚/monthly
包含情景:historical(1950-2014)、ssp126(2015-2100)、ssp245(2015-2100)、ssp370(2015-2100)、ssp585(2015-2100)
格式:netCDF;GRIB(单独联系)


更多应用

ChatGPT4.0最新功能和使用技巧,助力日常生活、学习与工作!_chat gpt 4.0 数据-CSDN博客文章浏览阅读916次,点赞9次,收藏18次。熟练掌握ChatGPT4.0在数据分析、自动生成代码等方面的强大功能,系统学习人工智能(包括传统机器学习、深度学习等)的基础理论知识,以及具体的代码实现方法,同时掌握ChatGPT4.0在科研工作中的各种使用方法与技巧,以及人工智能领域经典机器学习算法(BP神经网络、支持向量机、决策树、随机森林、变量降维与特征选择、群优化算法等)和热门深度学习方法(卷积神经网络、迁移学习、RNN与LSTM神经网络、YOLO目标检测、自编码器等)的基本原理及Python、PyTorch代码实现方法。_chat gpt 4.0 数据https://blog.csdn.net/WangYan2022/article/details/139134786?spm=1001.2014.3001.5502ChatGPT-4o赋能科研:自然科学研究的新篇章-CSDN博客文章浏览阅读546次,点赞13次,收藏11次。以ChatGPT-4o代表AI大语言模型引领了新一波人工智能浪潮,也在自然科学各个过程中提升生产力,通过生物、地球、农业、气象、生态、环境、GIS科学领域中的大量案例,结合数据、文本、图片、代码、语音、视频等不同形式的数据、模式和内容,讲解自然科研的全流程,通过大模型辅助编写Python和R语言代码以及大模型API二次开发等技术对案例进行实现,带领大家快速进入科研新范式。https://blog.csdn.net/weixin_46747075/article/details/139680504?spm=1001.2014.3001.5501★关 注【科研充电吧】公 众 号,获取海量教程和资源

最近更新

  1. TCP协议是安全的吗?

    2024-06-18 14:00:02       18 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-06-18 14:00:02       19 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-06-18 14:00:02       19 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-06-18 14:00:02       20 阅读

热门阅读

  1. 【go】go初始化命令总结

    2024-06-18 14:00:02       7 阅读
  2. 【大数据】gRPC、Flink、Kafka 分别是什么?

    2024-06-18 14:00:02       6 阅读
  3. C#面:请说说C#引用和对象?

    2024-06-18 14:00:02       6 阅读
  4. IntelliJ IDEA调试技巧

    2024-06-18 14:00:02       7 阅读
  5. APK打包 |应用图标 | 应用名称设置

    2024-06-18 14:00:02       7 阅读
  6. 数据库引擎有哪些?

    2024-06-18 14:00:02       9 阅读
  7. 实际中如何应对ARP泛洪攻击

    2024-06-18 14:00:02       7 阅读
  8. USB - 常用开发工具

    2024-06-18 14:00:02       6 阅读