通过JMX采集yarn相关指标的Flink任务核心逻辑
文章目录
- 通过JMX采集yarn相关指标的Flink任务核心逻辑
- 通过jmx接口查询Yarn队列指标
- 请求JMX
- 配置项
- 核心处理流程
- 输出到kafka格式
- 通过jmx接口查询ResourceManager核心指标
- 请求JMX
- 读取配置yaml配置文件
- 核心处理逻辑
- 输出Kafka格式
- 彩蛋 Flink 1.19中模拟调度每分钟调度
查询Active RM节点，然后将数据写入Kafka
通过jmx接口查询Yarn队列指标
请求JMX
队列相关指标：http://XXXXX:XXXX/jmx?qry=Hadoop:service=ResourceManager,name=QueueMetrics,*
配置项
# 指标值采用瞬间值的指标名称字符串，以英文逗号分隔
jmx.filter.queue.metric.momentary=AllocatedVCores,MaxShareVCores,MinShareVCores,AllocatedMB,MaxShareMB,MinShareMB,PendingMB,PendingVCores,MaxApps,AppsRunning,AppsPending,AllocatedContainers,PendingContainers
# 指标值采用两次差值的指标名称字符串，以英文逗号分隔
jmx.filter.queue.metric.difference=AppsSubmitted,AppsCompleted,AppsKilled,AppsFailed
