二百零六、Flume——Flume1.9.0单机版部署脚本(附截图)

一、目的

在实际项目部署时,要实现易部署易维护,需要把安装步骤变成安装脚本实现快速部署

二、部署脚本在Linux中文件位置

文件夹中只有脚本文件flume-install.sh和tar包apache-flume-1.9.0-bin.tar.gz

三、Flume安装脚本

#!/bin/bash


#获取服务器名称和用户名
hostname=`hostname`
echo "current host name is $hostname"
whoami=`whoami`
echo "current user is $whoami"

#flume下载路径
installdir=/usr/local/hurys/dc_env/flume
if [ ! -d "$installdir" ];then
 mkdir $installdir
fi

#日志文件
nowpath=$(cd "$(dirname "$0")";pwd)
logDir=$nowpath/log/
cd $nowpath
if [ ! -d $logDir ];then
    mkdir -p $logDir
fi
nowtime=`date --date='0 days ago' "+%Y%m%d%H%M%S"`
daytime=`date --date='0 days ago' "+%Y%m%d"`
log_file="$logDir/flume_$daytime.log"

echo '------------ 卸载原有的flume  ------------' | tee -a $log_file
#卸载原有的flume
rm -rf /usr/local/hurys/dc_env/flume/flume190/
  
echo '------------ 安装flume  ------------' | tee -a $log_file
#解压flume安装包
tar  -zxf /usr/local/hurys/dc_env/flume/tar/apache-flume-1.9.0-bin.tar.gz   -C /usr/local/hurys/dc_env/flume/
mv  /usr/local/hurys/dc_env/flume/apache-flume-1.9.0-bin/   /usr/local/hurys/dc_env/flume/flume190
  
echo '------------ 将 lib 文件夹下的 guava-11.0.2.jar 删除以兼容 Hadoop 3.1.3 ------------'  | tee -a $log_file
#将 lib 文件夹下的 guava-11.0.2.jar 删除以兼容 Hadoop 3.1.3
rm  -rf  /usr/local/hurys/dc_env/flume/flume190/lib/guava-11.0.2.jar
 
echo '------------ 修改配置文件flume-env.sh ------------' | tee -a $log_file
#修改配置文件flume-env.sh  
cp  /usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh.template  /usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh
    
cat>>/usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh<<EOF
export JAVA_HOME=$JAVA_HOME

export JAVA_OPTS="-Xms8000m -Xmx8000m -Dcom.sun.management.jmxremote"
EOF

echo '------------ 安装nc和telnet  ------------' | tee -a $log_file
#安装nc和telnet
cd /usr/local/hurys/dc_env/flume/flume190/conf/
yum install -y nc
yum install telnet-server
yum install telnet.*

echo '------------ Complete ------------' | tee -a $log_file

四、Flume脚本安装步骤

(一)到Flume目录下,sh执行安装脚本

# cd /usr/local/hurys/dc_env/flume/

# sh flume-install.sh

更新telnet-server时,选择y

更新telnet时,选择y

(二)验证Flume,测试一下端口

首先,登录监视窗口

# nc -lk  44444

然后,开启聊天窗口

# telnet  localhost  44444

接着,在聊天窗口输入 hello world

继而,监视窗口会自动出现 hello world

最后,在监视窗口ctrl+c退出

总的来说,Flume的安装还是非常简单的,我认为Flume玩法的关键之处就在于任务文件中各种参数的配置,如何配置参数才能及时的、完整的消费数据,这才是Flume的灵魂!

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-07 09:00:05       94 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-07 09:00:05       100 阅读
  3. 在Django里面运行非项目文件

    2023-12-07 09:00:05       82 阅读
  4. Python语言-面向对象

    2023-12-07 09:00:05       91 阅读

热门阅读

  1. 主流开源大语言模型的微调方法

    2023-12-07 09:00:05       53 阅读
  2. MongoDB归并连续号段-(待验证)

    2023-12-07 09:00:05       52 阅读
  3. 讲解机器学习中的 K-均值聚类算法及其优缺点。

    2023-12-07 09:00:05       57 阅读
  4. OpenFeign远程调用实例

    2023-12-07 09:00:05       58 阅读
  5. vue3+ts自定义插件

    2023-12-07 09:00:05       54 阅读
  6. Nginx实现(缓冲区)

    2023-12-07 09:00:05       56 阅读
  7. go - 计算CIDR的主机数量

    2023-12-07 09:00:05       59 阅读
  8. RefCell 数据类型

    2023-12-07 09:00:05       50 阅读
  9. Linux下打包Qt-使用linuxDeployQt+appimageTool

    2023-12-07 09:00:05       51 阅读
  10. Ubuntu下应用软件安装

    2023-12-07 09:00:05       78 阅读
  11. Ubuntu20.24 安装ecCodes,包括 tar.gz 和 python(笔记)

    2023-12-07 09:00:05       58 阅读
  12. 使用lxml解析本地html文件报错?

    2023-12-07 09:00:05       59 阅读
  13. Docker build 命令

    2023-12-07 09:00:05       50 阅读