【kettle012】kettle访问FTP服务器文件并处理数据至PostgreSQL(已更新)

1.一直以来想写下基于kettle的系列文章,作为较火的数据ETL工具,也是日常项目开发中常用的一款工具,最近刚好挤时间梳理、总结下这块儿的知识体系。
2.熟悉、梳理、总结下FTP服务器相关知识体系
3.欢迎批评指正,跪谢一键三连!

1.环境搭建、配置

    • 1.0 实验环境信息
      • Windows 10
      • CentOS 7.1(虚拟机)
      • Docker version 26.0.2
      • Dbeaver
      • PostgreSQL 16.2, compiled by Visual C++ build 1937, 64-bit
      • Kettle 8.2–访问异常
      • Kettle 9.0–有效方案
  • 1.1 FTP服务器环境搭建参考博文: 【FTP】配置FTP服务器并访问测试(已更新)

    • 重要提示: 需 关闭防火墙 负责 ftp://192.168.48.220/ 访问失败
      在这里插入图片描述
  • 1.2 CSV文件数据手动上传至FTP服务器,效果测试
    在这里插入图片描述

  • 1.3 下载资源包,搭建kettle实战环境

    • kettle8.2资源包: pdi-ce-8.2.0.0-342.zip
    • kettle9.0资源包:kettle-pdi-ce-9.0.0.0-423.zip
      • 重要提示: kettle8.2版本在连接 PostgreSQL 16.2 一直提示Error connecting to database: (using class org.postgresql.Driver) 尝试连线已失败。,使用kettle9.0版本该问题不再复现。
    • dbeaver-driver-all-master资源包: dbeaver-driver-all-master
    • 下载解压即可使用,运行 Spoon.bat 效果
      在这里插入图片描述

2.基于kettle下载FTP文件服务器数据

  • 注意: 采用 基于 Kettle 9.0 有效可用方案
  • 2.1 FTP 下载 配置信息及运行结果详情
    在这里插入图片描述
    在这里插入图片描述

3.基于kettle处理数据至PostgreSQL

  • 3.1 【kettle作业流程配置】版本驱动或kettle bug问题(解决了好久,尝试了很多次,替换了很多个驱动版本,均解决无效)

  • kettle版本: Kettle 8.2,查看到类似材料说驱动版本问题,更换了很多次,尝试多个驱动版本如下,但都不能成功链接

    • postgresql-42.2.25.jar
    • postgresql-9.1-901-1.jdbc4.jar
    • postgresql-42.3.9.jar
    • postgresql-42.7.2.jar
    • edb-jdbc16.jar
  • Kettle 8.2 链接异常详情示例如下(通过Java代码测试链接成功):
    在这里插入图片描述

    • IDE + java 代码测试效果
      import java.sql.DriverManager;
      import java.sql

相关推荐

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-05-13 16:28:04       99 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-05-13 16:28:04       107 阅读
  3. 在Django里面运行非项目文件

    2024-05-13 16:28:04       90 阅读
  4. Python语言-面向对象

    2024-05-13 16:28:04       98 阅读

热门阅读

  1. sql-行转列3(转置)

    2024-05-13 16:28:04       30 阅读
  2. Mysql

    2024-05-13 16:28:04       36 阅读
  3. 【chisel】如何用chisel写一个上升沿检测程序

    2024-05-13 16:28:04       32 阅读
  4. PyCharm中切换Python包的源

    2024-05-13 16:28:04       37 阅读
  5. 八股Day4 Redis

    2024-05-13 16:28:04       34 阅读
  6. Redis简述

    2024-05-13 16:28:04       28 阅读
  7. linux下sd卡的备份与还原

    2024-05-13 16:28:04       31 阅读
  8. 动态NAT

    动态NAT

    2024-05-13 16:28:04      34 阅读