大数据开发-FLUME安装部署与实战案例

前言

Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。

Flume-ng最明显的改动就是取消了集中管理配置的 Master 和 Zookeeper,变为一个纯粹的传输工具。Flume-ng另一个主要的不同点是读入数据和写出数据由不同的工作线程处理(称为 Runner)。 在 Flume-og 中,读入线程同样做写出工作(除了故障重试)。如果写出慢的话(不是完全失败),它将阻塞 Flume 接收数据的能力。这种异步的设计使读入线程可以顺畅的工作而无需关注下游的任何问题。

在这里插入图片描述

安装部署

官网:http://flume.apache.org/download.html,下载完成后上传服务器并解压。

[root@hadoop02 soft]# tar -zxvf apache-flume-1.11.0-bin

配置修改

#修改文件名
[root@VM-4-17-centos conf]# mv flume-env.sh.template flume-env.sh
# 修改配置
[root@VM-4-17-centos conf]# vim flume-env.sh
export JAVA_HOME=/usr/local/jdk/jdk1.8.0_201

# 准备conf文件,在官网上可以找到 https://flume.apache.org/releases/content/1.11.0/FlumeUserGuide.html

image-20240308100120676


[root@VM-4-17-centos conf]# vim example.conf

# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
a1.sinks.k1.type 

相关推荐

  1. Flume 安装部署

    2024-03-12 05:00:04       70 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-03-12 05:00:04       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-03-12 05:00:04       106 阅读
  3. 在Django里面运行非项目文件

    2024-03-12 05:00:04       87 阅读
  4. Python语言-面向对象

    2024-03-12 05:00:04       96 阅读

热门阅读

  1. 服务器访问慢怎么办

    2024-03-12 05:00:04       39 阅读
  2. 【力扣100】198.打家劫舍

    2024-03-12 05:00:04       39 阅读
  3. springboot参数传递总结

    2024-03-12 05:00:04       35 阅读
  4. json 基本上面试题目比较常问

    2024-03-12 05:00:04       43 阅读
  5. 大数据笔记

    2024-03-12 05:00:04       35 阅读
  6. C 语言中 #define 预处理器指令

    2024-03-12 05:00:04       38 阅读
  7. oracle 19c数据库联机备份与恢复

    2024-03-12 05:00:04       44 阅读
  8. 一些使用 Golang 实现的反沙箱技术 - Anti-Sandbox-Go

    2024-03-12 05:00:04       38 阅读
  9. OpenCV-环境搭建及基本IO接口

    2024-03-12 05:00:04       40 阅读
  10. 96.Go设计优雅的错误处理(带堆栈信息)

    2024-03-12 05:00:04       38 阅读