面试篇Flink

一:为什么学习flink?

相比较spark,flink对于实时这块,使用过流的方式进行实现。
spark是通过批流的方式实现,通过减少批的时间间隔来实现流的功能。

二:什么是flink?

flink是一个针对于实时进行处理的框架。高可用,低延迟。

三:flink怎么使用?

1. flink的俩种架构模式。

  • Standalone模式。
    在这里插入图片描述
  1. JobManager
    1.将程序转为物理执行图。
    2. 申请资源。
    3. 监控taskmanager运行情况和checkpoint的协调。

  2. ResourceManager
    资源管理器主要负责管理任务管理器(TaskManager)的插槽(slot)。

  3. TaskManager
    执行任务

  4. Dispatcher

  • Flink on yarn模式。
  • 在这里插入图片描述

在这里插入图片描述

2. TaskSlot与Parallelism。

slot是指taskmanager的并发执行能力。
parallelism是指taskmanager实际使用的并发能力

3. flink 窗口,时间,水位线。

窗口
1. 滚动
2. 滑动
3. 累加
时间

  1. 事件时间。
  2. 处理时间。
  3. 摄入时间。

水位线

4. 状态。

  1. source端保证。
    在kafka的源头,我们有偏移量,当重跑的时候,会找到上次的offest进行重新加载数据。
  2. 中间进行保证。
    checkpoint
    savepoint
    当jobmanager发送任务的时候,会伴随发送一个barriers(栅栏),每一个操作都会进行一次拍照,最后sink。跑完会将数据存储起来。完成一次保存。最后通知jobmanager。
    存储的方式
    1. 内存
    2. 磁盘
    3. 数据库
  3. sink端进行保证。
    俩阶段提交。
    在这里插入图片描述

相关推荐

  1. Flink面试整理-Flink常见API

    2023-12-06 15:20:04       33 阅读
  2. Flink面试整理-Flink是什么?

    2023-12-06 15:20:04       30 阅读
  3. Flink面试整理-Flink、Spark、Storm比较

    2023-12-06 15:20:04       35 阅读
  4. Flink面试整理-Flink工作原理

    2023-12-06 15:20:04       31 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2023-12-06 15:20:04       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2023-12-06 15:20:04       106 阅读
  3. 在Django里面运行非项目文件

    2023-12-06 15:20:04       87 阅读
  4. Python语言-面向对象

    2023-12-06 15:20:04       96 阅读

热门阅读

  1. pytorch 多卡并行训练

    2023-12-06 15:20:04       60 阅读
  2. Numpy实践_排序和搜索和计数

    2023-12-06 15:20:04       47 阅读
  3. centos用什么命令可查看版本号

    2023-12-06 15:20:04       60 阅读
  4. restful风格在springmvc中的例子和简介

    2023-12-06 15:20:04       61 阅读
  5. C/c++源代码qt软件 svn版本管理开发如何防泄密?

    2023-12-06 15:20:04       53 阅读
  6. Apache HTTP 安装和配置下载

    2023-12-06 15:20:04       58 阅读
  7. OracleRac跨网段修改Public IP/VIP/Private IP/Scan IP

    2023-12-06 15:20:04       54 阅读
  8. 【WPF】隐藏一个XAML的view视图

    2023-12-06 15:20:04       52 阅读
  9. HTML-1

    2023-12-06 15:20:04       58 阅读
  10. android 13.0 设置第三方浏览器app为默认浏览器

    2023-12-06 15:20:04       62 阅读