2025年11月更新日志
上线时间:2025-11
数据开发
sparkthrift meta数据同步适配mrs集群【5.3】
背景:SparkThrift Meta不兼容MRS集群,数据同步选择默认的SparkThrift Meta数据源运行会报错,需要把任务转成脚本模式后手动读取/写入调整插件名
功能:优化 MRS 集群下SparkThrift Meta数据同步适配逻辑,自动将同步任务内的读取/写入插件名设置为 huaweihdfsreader,无需手动修改

Doris 3.x版本适配,支持作为计算引擎,支持数据同步读写【6.3】
功能:支持Doris3.x版本计算引擎,支持功能周期任务、整库同步、数据同步、手动任务、临时查询、语法提示、表查询、函数管理、依赖推荐、任务上下游参数、代码模版、按项目、个人粒度绑定数据库账号、执行计划
数据地图DQL权限优化【6.2】
背景:当前用户即使仅具备“表管理-查看”权限,未在数据地图中申请并获得该表的 DQL 查询权限,也能查看表预览数据,导致权限边界不清晰,存在数据安全风险。
功能:优化表预览数据的权限校验逻辑:仅当用户具备“表管理-查看”权限且已在数据地图中通过该表的DQL 权限申请时,才可查看数据预览;否则提示“暂无DQL权限,无法查看数据”。


hive表权限管控【6.3】
背景:当前离线数据地图已支持对 Hive 表的 DQL、DML、DDL 权限管控,但未纳入数据地图的Hive表仍可在任务中直接进行操作,存在一定的数据安全风险
功能:新增「数据地图外表权限管控」配置功能。该功能在兼容历史客户使用习惯的基础上,提供更严格的数据安全防护。用户可根据实际场景选择是否限制对未纳入数据地图表的操作权限,从而有效防止越权访问和潜在数据风险。


SparkSQL 3.2支持读写hudi 0.15.0【5.3】
背景:满足用户基于 Hudi 存储的数据查询与分析需求。
功能:在控制台Spark集群内新增DataLake的hudi配置项后,SparkSQL任务支持对 Hudi 表执行完整的 DDL、DML、DQL 操作,用户可像操作 Hive 表一样直接进行 查询、创建、修改与写入,实现统一的 SQL 使用体验

HiveSQL 2.3.8支持读写Paimon 1.2【5.3】
背景:满足用户基于 Paimon 存储的数据查询与分析需求
功能:在构建捆绑paimon-hive连接jar包后,HiveSQL支持对 Paimon 表执行完整的 DDL、DML、DQL 操作,用户可像操作 Hive 表一样直接进行查询、创建、修改与写入
运维中心
一键建表生命周期配置【5.2】
背景:5.2 之前版本中表生命周期存在缺陷,到期后未执行数据清理;在 5.2 及之后版本中,生命周期到期会自动清理表数据。当前整库同步与单任务同步的一键建表生命周期默认仅为10天,周期过短,易造成数据被误清理。
功能:调整整库同步与单任务同步一键建表的默认生命周期为 9999 天,并新增自定义配置能力,支持用户根据实际需求灵活设置表生命周期。
