【部署】Apache DolphinScheduler 伪集群部署

本文档详细介绍了如何在单台机器上部署Apache DolphinScheduler的伪集群,包括前置准备、环境配置、启动Zookeeper、数据库初始化、安装启动DolphinScheduler以及登录和启停服务的步骤。适合初次体验和小规模任务使用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Standalone极速体验版

Standalone 仅适用于 DolphinScheduler 的快速体验.

如果你是新手,想要体验 DolphinScheduler 的功能,推荐使用Standalone方式体检。如果你想体验更完整的功能,或者更大的任务量,推荐使用伪集群部署。如果你是在生产中使用,推荐使用集群部署或者kubernetes

注意: Standalone仅建议20个以下工作流使用,因为其采用 H2 Database, Zookeeper Testing Server,任务过多可能导致不稳定

DolphinScheduler 伪集群部署

伪集群部署目的是在单台机器部署 DolphinScheduler 服务,该模式下master、worker、api server、logger server都在同一台机器上

前置准备工作

伪分布式部署 DolphinScheduler 需要有外部软件的支持

  1. JDK:下载JDK (1.8+),并将 JAVA_HOME 配置到以及 PATH 变量中。如果你的环境中已存在,可以跳过这步。
  2. 二进制包:在下载页面下载 DolphinScheduler 二进制包
  3. 数据库:PostgreSQL (8.2.15+) 或者 MySQL (5.7+),两者任选其一即可,如 MySQL 则需要 JDBC Driver 8.0.16
  4. 注册中心:ZooKeeper (3.4.6+)

注意: DolphinScheduler 本身不依赖 Hadoop、Hive、Spark,但如果你运行的任务需要依赖他们,就需要有对应的环境支持

本地部署环境

  1. 虚拟软件:Vmware15 安装指南
  2. 操作系统:Ubuntu 11.3.0-1ubuntu1~22.04 安装指南
  3. JDK:jdk-8u231-linux-x64 安装指南
  4. Zookeeper:apache-zookeeper-3.5.7-bin 安装指南
  5. DolphinScheduler:apache-dolphinscheduler-2.0.5-bin 下载地址
  6. 数据库:mysql Ver 8.0.31-0ubuntu0.22.04.1 for Linux on x86_64 ((Ubuntu)) 安装指南

准备 DolphinScheduler 启动环境

配置用户免密及权限

  • 官网原话: 因为任务执行服务是以 sudo -u {linux-user} 切换不同 linux 用户的方式来实现多租户运行作业,所以部署用户需要有 sudo 权限,而且是免密的。 原话出处
  • 我的选择: 我使用的root用户,不需要这一步。 Ubuntu登录root

配置机器SSH免密登陆

由于安装的时候需要向机器发送资源,所以要求机器能实现SSH免密登陆。配置免密登陆的步骤如下

## su dolphinscheduler 我用root不需要这步

ssh-keygen 
<think>我们正在处理关于DolphinScheduler伪集群部署的查询。根据引用内容,我们可以整理出部署的关键步骤和前提条件。引用[1]提到伪集群部署概述,引用[2]提供了详细的安装准备和步骤,引用[3]则涉及环境配置的同步。部署前提条件(引用[2]):1.JDK1.8+2.MySQL5.7+以及MySQL驱动8.0.16+3.ZooKeeper3.4.6+4.psmisc(用于进程树分析)部署步骤(综合引用[1][2][3]):1.安装准备:确保所有前提条件满足。2.下载DolphinScheduler3.1.5版本。3.配置环境变量(bin/env/dolphinscheduler_env.sh),并在部署时同步到各个服务节点(引用[3])。4.进行必要的配置修改,如数据库连接、ZooKeeper连接等。5.执行安装脚本。由于引用中并没有给出完整的详细步骤,但我们可以根据常见的部署流程和引用中的提示来组织答案。同时,我们应提醒用户参考官方文档获取最新信息。注意:用户要求生成相关问题,因此我们将在回答后提出几个相关问题。</think>### DolphinScheduler 伪集群部署指南 根据引用内容,以下是 DolphinScheduler 伪集群部署的核心步骤和配置要点: #### 一、部署前提条件[^2] 1. **软件版本要求**: - JDK 1.8+ - MySQL 5.7+(驱动版本 8.0.16+) - ZooKeeper 3.4.6+ - psmisc(进程树分析工具) 2. **环境准备**: ```bash # 安装必需工具 yum install psmisc -y ``` #### 二、部署流程[^1][^2] 1. **下载和解压**: ```bash wget https://dlcdn.apache.org/dolphinscheduler/3.1.5/apache-dolphinscheduler-3.1.5-bin.tar.gz tar -zxvf apache-dolphinscheduler-3.1.5-bin.tar.gz ``` 2. **配置环境变量**: 修改 `bin/env/dolphinscheduler_env.sh` 文件: ```bash export JAVA_HOME=/usr/lib/jvm/java-1.8.0 export DATABASE=mysql export SPRING_PROFILES_ACTIVE=mysql ``` 3. **数据库初始化**: ```sql CREATE DATABASE dolphinscheduler DEFAULT CHARSET utf8; GRANT ALL PRIVILEGES ON dolphinscheduler.* TO 'ds_user'@'%' IDENTIFIED BY 'ds_password'; ``` 4. **修改核心配置**: - `conf/application.yaml`:配置数据库连接 ```yaml spring: datasource: url: jdbc:mysql://localhost:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8 username: ds_user password: ds_password ``` 5. **启动服务**: ```bash # 一键启动所有服务(伪集群模式) ./bin/dolphinscheduler-daemon.sh start all ``` #### 三、关键配置说明[^3] 1. **环境同步机制**: - 部署时 `bin/env/dolphinscheduler_env.sh` 的内容会自动同步到所有节点的 `conf/dolphinscheduler_env.sh` 2. **ZooKeeper 配置**: ```properties # conf/zookeeper.properties zookeeper.quorum=localhost:2181 ``` 3. **访问控制台**: - 默认地址:`http://服务器IP:12345/dolphinscheduler` - 默认账号:`admin`/`dolphinscheduler123` #### 四、验证部署 ```bash # 检查服务状态 ./bin/dolphinscheduler-daemon.sh status all # 预期输出 MasterServer is running WorkerServer is running ApiServer is running LoggerServer is running ``` > **注意**:伪集群部署是在单机模拟分布式环境,所有服务共用一个节点,适合开发和测试场景。生产环境请使用真实集群部署[^1]。 --- ### 相关问题 1. DolphinScheduler 伪集群部署和真实集群部署的主要区别是什么? 2. 部署过程中遇到 ZooKeeper 连接失败应如何排查? 3. DolphinScheduler 如何实现高可用容错机制? 4. 如何扩展 DolphinScheduler 的 Worker 节点以提升任务并发能力? 5. DolphinScheduler 支持哪些类型的任务调度?(如 Shell、SQL、Spark 等) [^1]: Apache DolphinScheduler 伪集群部署指南 [^2]: Hadoop生态圈框架部署 伪集群版(十)- DolphinScheduler伪分布式部署 [^3]: dolphinscheduler集群服务一键安装启动实现流程剖析
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值