广告
返回顶部
首页 > 资讯 > 数据库 >「Flink」Flink 1.9 WebUI运行作业界面分析
  • 351
分享到

「Flink」Flink 1.9 WebUI运行作业界面分析

「Flink」Flink1.9WebUI运行作业界面分析 2015-06-25 06:06:12 351人浏览 才女
摘要

运行作业界面在以下界面中,可以查看到作业的名称、作业的启动时间、作业总计运行时长、作业一共有多少个任务、当前正在运行多少个任务、以及作业的当前状态。这里的程序:一共有17个任务,当前正在运行的是17个任务。作业概览界面在这个界面中

「Flink」Flink 1.9 WebUI运行作业界面分析

运行作业界面

在以下界面中,可以查看到作业的名称、作业的启动时间、作业总计运行时长、作业一共有多少个任务、当前正在运行多少个任务、以及作业的当前状态。

这里的程序:一共有17个任务,当前正在运行的是17个任务。

image

作业概览界面

image

在这个界面中,我们可以看到数据流图。这个程序中,一共有3个算子。

image

Custom Source任务并行度为1

Flat Map任务并行度为8,

Flink Map –> Sink任务并行度为8

一共是17个任务。

在明细界面中,可以查看到具体每个算子接收的字节数、记录数,发送的字节数、记录数,并行度,开始时间,持续运行时间。

image

具体Operator运行情况

点击某一个Operator,可以查看到该Operator的具体运行信息。

image

上图,我们可以看到Task处理的数据是均匀的,每一个Task都拉取到了差不多的记录数。

而下面这张图,我们可以很直观地看到,3个分区中是有数据处理的。因为此处我们只有三个单词:hadoop flink spark。每个单词都分配到了不同的任务中处理。

image


Checkpoint界面

image

Overview

Overview中可以看到Checkpoint的总体概览情况。

image

Triggered表示一共触发了14个checkpoint,完成了14个。

image

Lastest Completed Checkpoint为最近一次checkpoint的情况,可以看到这个checkpoint在state中存储的大小是5.9KB。

再看一下这个checkpoint的明细信息:

image

可以看到这个checkpoint并没有配置外部的存储,是保存在Task Manager的内存走过来的。而且这个Checkpoint已经被discard掉了。

再看下具体Operators的checkpoint情况,在Flink中每个Operator都是有状态的。

第一个Source、第二个Flat Map,这两个Operator都没有实现Operator State(也就是CheckpointFunction),所以,他们并没有真正的占用状态存储。

而在第三个FlatMap –> Slink Operator走过来,因为使用到了Keyed Manage State中的ValueState,所以,这里状态存储中是有值的。

image

History

在History选项卡中,我们可以看到所有的checkpoint的历史记录

image

Summary

image

Summary中,可以看到checkpoint的运行时间。

您可能感兴趣的文档:

--结束END--

本文标题: 「Flink」Flink 1.9 WebUI运行作业界面分析

本文链接: https://www.lsjlt.com/news/4018.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作