概述
产品介绍
离线开发,是一款高效的大数据离线任务开发、任务调度、数据管理工具,支持对大数据各环节处理过程进行可视化管理与控制。帮助客户提升开发效率,快速创建离线计算任务,缩短开发周期;任务管理与运维一体化,减轻繁冗的运维工作。
系统架构
主要功能
- 数据同步:自研分布式同步引擎,用于在多种异构数据之间进行海量的数据同步,封装可视化页面,可便捷的完成任务配置。
- 数据开发:提供丰富的任务类型,SparkSQL、HiveSQL、Python、Shell等,满足临时查询、周期调度等不同场景下的数据处理需求。
- 调度引擎:基于自研分布式调度引擎,支持按照时间、依赖关系的任务触发机制,支持各类任务按照DAG关系准确、准时运行。支持分钟、小时、天、周和月多种调度周期配置。
- 运维中心:任务运行情况监控、日志查看、补数据、重跑任务、告警配置等。
- 发布管理:可区分生产环境、测试环境,支持一键跨环境发布。
- 项目管理:用户管理、角色管理、项目整体配置等。
约束与限制
仅支持Chrome浏览器72以上版本。
用户角色
角色 | 权限 |
---|---|
项目所有者 | 指项目空间的创建者,拥有项目空间内的最高权限,可对该项目空间的基本属性、数据源、当前项目空间的全部资源和项目成员等进行管理,并为项目成员赋予项目管理员、开发、运维、访客角色。 |
项目管理员 | 指项目空间的管理者,可对该项目空间的基本属性、数据源、当前项目空间的全部资源和项目成员等进行管理,并为项目成员赋予项目管理员、开发、运维、访客角色。项目管理员不能对项目所有者操作。 |
数据开发 | 数据开发角色的用户能够创建任务、脚本、资源等,新建/删除表,但不能执行发布操作。 |
运维 | 运维角色的用户由项目管理员分配运维权限;拥有发布任务、运维任务的操作权限,没有数据开发的操作权限。 |
访客 | 只具备查看权限,没有权限进行编辑任务、运维等操作 |
tip
目前离线开发的用户角色是固定的,不支持编辑,每个角色的详细权限点可参考"权限点
"文档