数据库
首页 > 数据库> > Apache Dolphinscheduler3.0.0-beta-1 版本发布,新增FlinkSQL、Zeppelin任务类型

Apache Dolphinscheduler3.0.0-beta-1 版本发布,新增FlinkSQL、Zeppelin任务类型

作者:互联网

导读:近日,Apache Dolphin Scheduler 迎来了 3.0.0-beta-1 版本的正式发布。新版本主要针对 3.0.0-alpha 进行了代码和文档的修复,并引入了部分的功能,如支持 FlinkSQL 任务类型,新增 Zeppelin 任务类型,新增 Kubernetes namespace 管理功能,以及通过 bash 传参功能等,具体更新详见下文。

01 新功能

支持 FlinkSQL 任务类型

在该版本中,我们扩展了 Flink 任务类型,使其支持运行 Flink SQL 任务,其使用 sql-client.sh 提交任务。

更多详情查看:

flink sql client](https://nightlies.apache.org/flink/flink-docs-master/docs/dev/table/sqlclient/)

对应 PR:9840

【链接】

https://github.com/apache/dolphinscheduler/pull/9840

新增 Zeppelin 任务类型

在该版本中,我们增加了 Zeppelin 任务类型,用于创建并执行 Zeppelin 类型任务。Worker 执行该任务时,会通过 Zeppelin Cient API 触发 Zeppelin Notebook 段落。

PR:9810

【链接】

https://github.com/apache/dolphinscheduler/pull/9810

新增 Kubernetes namespace 管理

该版本新增了 kubernetes namespace 管理功能,允许用户在 Apache DolphinScheduler 中管理 Kubernetes 的 namespace。

PR:9303

【链接】:

https://github.com/apache/dolphinscheduler/pull/9303

新增通过shell组件获取本地参数

新版本还新增了通过 bash 传参的功能,如果你想在下游任务中使用 bash 变量而不是常量值 export 参数,你可以在通过 setValue 和 Bash 变量实现,它更加灵活,可以让你动态地获取现有的本地或 HTTP 资源 获取设定变量。

可以使用类似的语法:

PR:9586

【链接】

https://github.com/apache/dolphinscheduler/pull/9586

允许用户上传没有后缀的文件

之前资源中心只能上传有后缀的文件,在 3.0.0-beta-1 版本后,我们支持用户上传没有后缀的文件。

02 Bug Fix

03 文档修改

04 具体修改

可以在:https://github.com/apache/dolphinscheduler/releases/tag/3.0.0-beta-1 中找到全部修改记录。

05 感谢 3.0.0-beta-1 版本贡献者

Amy0104, BaoLiang, caishunfeng, calvin, chuxing, czeming, Dannila, Devosend, Eric Gao, exmy, gaojun2048, guoshupei, HeChuan, hstdream, jiachuan.zhu, Jiajie Zhong, JinYong Li, Kerwin, kezhenxu94, labbomb, leiwingqueen, lidongdai, litiliu, LongJGun, longtb, Lyle Shaw, mans2singh, mazhong, Mr.An, naziD, nobolity, Paul Zhang, PJ Fanning, qianli2022, QuakeWang, rockfang, songjianet, sparklezzz, sq-q, Town, Tq, WangJPLeo, wangyang, worry, wqxs, xiangzihao, yimaixinchen, youzipi, zhuxt2015, zixi0825, 陈家名, 陈爽, 旺阳

标签:修复,FlinkSQL,新增,任务,问题,beta,文档,Zeppelin
来源: https://www.cnblogs.com/DolphinScheduler/p/16378753.html