0-Flume(1.11.0版本)在Linux(Centos7.9版本)的安装(含Flume的安装包)

环境检查

#首先确认自己的Linux是Centos版本,运行命令

cat /etc/centos-release

结果:CentOS Linux release 7.9.2009 (Core)

安装

  1. Flume本身是由Java开发的,所以需要服务器上安装好JDK1.8(注意区分Linux还是Windows系统的JDk)。

  2. 进入软件预安装目录,下载Flume的安装包

    # 进入预安装目录
    cd /opt/presoftware/
    # 下载或者上传Flume
    
  3. 绿色软件,解压即安装

    tar -xvf apache-flume-1.11.0-bin.tar.gz -C /opt/software/
    
  4. 重命名

    cd /opt/software/
    mv apache-flume-1.11.0-bin/ flume-1.11.0
    
  5. 配置环境变量

    # 编辑文件
    vim /etc/profile.d/flumehome.sh
    # 在文件中添加
    export FLUME_HOME=/opt/software/flume-1.11.0
    export PATH=$PATH:$FLUME_HOME/bin
    # 保存退出,生效
    source /etc/profile.d/flumehome.sh
    # 测试
    flume-ng version
    
  6. 如果是官网下载的Flume安装包,那么需要注意连接池的jar包和Hadoop jar包是否冲突

    # 查看Flume的连接池jar包
    ls /opt/software/flume-1.11.0/lib/guava*
    # 如果guava的版本是11.0.2版本,和Hadoop3.2.4的guava版本不一样
    rm -rf /opt/software/flume-1.11.0/lib/guava-11.0.2.jar
    # 复制Hadoop的jar过来
    cp /opt/software/hadoop-3.2.4/share/hadoop/common/lib/guava-27.0-jre.jar /opt/software/flume-1.11.0/lib/
    

控制台打印

  1. 需要注意的是,从Flume1.10.0版本开始,Flume将log4j 1.x替换为了log4j 2.x,因此导致输出数据的时候,默认是将数据写到flume.log文件中,但是学习过程中,希望数据能够直观展现(打印到控制台上),所以需要修改配置

  2. 编辑文件

    vim /opt/software/flume-1.11.0/conf/log4j2.xml
    

    在文件中添加

     <Loggers>
        <Logger name="org.apache.flume.lifecycle" level="info"/>
        <Logger name="org.jboss" level="WARN"/>
        <Logger name="org.apache.avro.ipc.netty.NettyTransceiver" level="WARN"/>
        <Logger name="org.apache.hadoop" level="INFO"/>
        <Logger name="org.apache.hadoop.hive" level="ERROR"/>
        <Root level="INFO">
            #添加这一行配置,让日志输出在控制台
          <AppenderRef ref="Console" />
          <AppenderRef ref="LogFile" />
        </Root>
      </Loggers>
    

软件源码编译

一些官网和github上给的是源码,需要自己根据自己的操作系统手动编译为软件,较为复杂。

相关推荐

  1. Flume 安装与部署

    2024-03-22 09:48:04       69 阅读
  2. Linux下安装Flume

    2024-03-22 09:48:04       67 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-22 09:48:04       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-22 09:48:04       101 阅读
  3. 在Django里面运行非项目文件

    2024-03-22 09:48:04       82 阅读
  4. Python语言-面向对象

    2024-03-22 09:48:04       91 阅读

热门阅读

  1. 【数据分析】Pandas内容补充

    2024-03-22 09:48:04       31 阅读
  2. 外包干了一个月,忘记Git怎么使用了...

    2024-03-22 09:48:04       42 阅读
  3. C# 数组

    2024-03-22 09:48:04       41 阅读
  4. python继承的应用

    2024-03-22 09:48:04       37 阅读
  5. 如何利用技术手段获取全球公开网站上的数据?

    2024-03-22 09:48:04       44 阅读
  6. mysql的基本知识点——JOIN联表查询

    2024-03-22 09:48:04       43 阅读
  7. 数据结构万字总结(超级详细)第一章——绪论

    2024-03-22 09:48:04       33 阅读
  8. Android仿微信视频聊天本地与远程切换功能

    2024-03-22 09:48:04       32 阅读
  9. Android 设置相关页面

    2024-03-22 09:48:04       44 阅读
  10. Linux实战笔记(四) 后台运行

    2024-03-22 09:48:04       42 阅读