Skip to main content

2023年1月更新日志

上线时间:2023-01-06

功能新增

支持工作流参数 上线版本:5.3

背景:很多业务场景下一个工作流中需要有一些能生效于整个工作流的参数,统一配置其下所有子节点通用。

功能:工作流父任务中支持创建工作流层级参数,工作流参数在工作流范围内生效。工作流下子节点支持通过${参数名称}的方式来引用该工作流参数。

img

img

支持项目级参数 上线版本:5.3

背景:

全局参数-作用于整个数栈平台

自定义参数-作用于单个离线任务/工作流子节点

任务上下游参数-作用于引入此参数的下游任务

工作流参数-作用于单个工作流任务

增加的项目级参数,作用于当前项目之内的所有任务,即不影响别的项目的任务,也可实现项目内某些业务配置批量修改的效果。

功能:支持在项目的「项目管理->项目参数」中配置项目参数,配置完成后,该项目下的任务都可以进行引用。在任务中可以通过${参数名称}的方式引用项目参数。

img

img

绑定的项目支持解绑 上线版本:5.2

背景:当前项目绑定为非可逆操作,一个项目一旦和另一个项目产生绑定后无法解绑也不支持删除,但部分已经绑定的项目因业务原因可能需要换目标项目绑定或者不再使用需要删除。

功能:可在测试项目的「项目设置-基本信息」中操作解绑生产项目,此操作不可逆。解除生产测试项目绑定后,数据源映射、资源组映射、发布至目标项目功能会受到影响,回退至绑定前状态,可按正常逻辑删除。

img

img

补数据支持对各类型参数进行一次性赋值 上线版本:5.3

背景:补数据时可能会存在需要对参数值临时替换的情况,例如跑历史日期的数据时,补数据的时间参数范围要变更

功能:在「运维中心-周期任务管理-任务补数据」中进行补数据参数重新赋值操作,补数据实际跑任务的参数值会被补数据时重新赋值的参数值替换。

img

hive数据同步的分区支持选择范围 上线版本:5.3

当hive类数据源作为数据同步的来源时,分区支持识别逻辑运算符“>”“=”“<”“and”,例如“pt>=202211150016 and pt<=202211200016 ”,即代表读取范围在此之间的所有分区。

临时运行可查看运行历史 上线版本:5.3

背景:周期任务、手动任务提交到调度运行时,都会产生实例,记录运行状态和运行日志等信息。但是周期任务、临时查询和手动任务在临时运行时不存在运行记录,用户无法查看历史临时运行的运行状态和运行日志等信息,导致一些重要的操作无法追踪。

功能:在数据开发页面最左侧功能模块列表中,新增了「运行历史」功能。在「运行历史」中,可查看历史近30天(可自定义)临时运行的SQL、日志等信息。

img

告警接受人支持填写其他参数 上线版本:5.3

背景:部分客户希望一些非数栈用户(比如合作方)也能收到任务的告警信息,而目前平台支持选的告警接收人范围为当前项目下的用户。期望离线侧告警配置时能灵活添加一些自定义值:可以是手机号、邮箱、用户名等信息,客户通过自定义告警通道中上传的jar包自定义解析获取值的内容,再通过自己的系统给解析出的联系人发送告警。img

功能:在创建告警规则时,支持填写外部联系人信息,通过英文逗号分割。(自定义告警通道中上传的jar需要支持解析)

img

版本对比功能优化 上线版本:5.3

1、历史版本支持查看近50条版本记录

2、版本对比功能交互调整

3、支持历史版本间对比

img

img

脏数据默认容忍条数功能 上线版本:5.3

在离线「项目管理->项目设置->操作设置」中,支持设置数据同步任务脏数据默认容忍条数和脏数据默认容忍比例。配置完成后,新建数据同步任务在通道控制模块会展示默认值。

img

img

img

ftp大文件拆分支持自定义解析文件的拆分 上线版本:5.3

在用户解析方式选择自定义解析方式时,支持用户上传自定义jar包对FTP中的文件进行切割拆分同步。

img

功能优化

整库同步写hive时支持对分区表指定分区名称 上线版本:5.2

当整库同步选中hive类的数据同步目标时,可以指定分区字段的名称

img

数据同步读写并行度支持分开配置 上线版本:5.3

img

vertica支持向导模式数据同步 上线版本:5.3

任务下线后,支持查看任务实例 上线版本:5.2

脏数据管理概览图显示具体时间 上线版本:5.3

img

RDB任务支持在任务间及工作流里的参数传递 上线版本:5.3

数据同步任务在创建发布包时被选中时支持关联到表 上线版本:5.2

数据同步任务目标端一键生成的目标表,支持关联至发布包中。

离线支持配置指标任务作为上游依赖 上线版本:5.2

背景:目前离线已经支持的跨产品任务依赖包括:质量任务(关联)、标签任务,加上指标任务后整个数栈的所有离线任务就可实现相互的依赖了。

img

通过右键快捷键可查看任务日志 上线版本:5.3

img

表查询交互优化:字段查看浮窗支持向上拉高,看到更多字段 上线版本:5.2

img

SQL语句支持 上线版本:5.3

SQL语句支持Desc database、Show database、Create database、Drop database、Show tables、Create table、Desc table、Alter table、Drop table、Creat function

任务执行进度优化 上线版本:5.2

执行进度前展示等待时长

img

表联想功能优化 上线版本:5.2

spark sql、hive sql、gp sql编写SQL代码时,支持表联想功能。联想范围:离线对接和创建schema下的表

删除任务、资源等内容时,提示内容名称 上线版本:5.3

Bugfix&代码优化

血缘关系、任务推荐对接资产 上线版本:5.3

创建项目表单优化 上线版本:5.3

交互bug修复

离线创建函数后,select返回结果有问题 上线版本:5.2

select会返回两次结果,修改为一次