DolphinScheduler 概述
Apache DolphinScheduler 是一个分布式、易扩展的可视化 DAG 工作流任务调度平台。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。
DolphinScheduler 核心架构
DolphinScheduler 的主要角色如下:
1,MasterServer 采用分布式无中心设计理念,MasterServer 主要负责 DAG 任务切分、任务提交、任务监控,并同时监听其它 MasterServer 和 WorkerServer 的健康状态。
2,WorkerServer 也采用分布式无中心设计理念,WorkerServer 主要负责任务的执行和提供日志服务。
3,ZooKeeper 服务,系统中的 MasterServer 和 WorkerServer 节点都通过 ZooKeeper 来进行集群管理和容错。
4,Alert 服务,提供告警相关服务。
5,API 接口层,主要负责处理前端 UI 层的请求。
6,UI,系统的前端页面,提供系统的各种可视化操作界面。
架构图如下: