Skip to main content

概述

产品介绍

离线开发,是一款高效的大数据离线任务开发、任务调度、数据管理工具,支持对大数据各环节处理过程进行可视化管理与控制。帮助客户提升开发效率,快速创建离线计算任务,缩短开发周期;任务管理与运维一体化,减轻繁冗的运维工作。

系统架构

产品架构

主要功能

  • 数据同步:自研分布式同步引擎,用于在多种异构数据之间进行海量的数据同步,封装可视化页面,可便捷的完成任务配置。
  • 数据开发:提供丰富的任务类型,SparkSQL、HiveSQL、Python、Shell等,满足临时查询、周期调度等不同场景下的数据处理需求。
  • 调度引擎:基于自研分布式调度引擎,支持按照时间、依赖关系的任务触发机制,支持各类任务按照DAG关系准确、准时运行。支持分钟、小时、天、周和月多种调度周期配置。
  • 运维中心:任务运行情况监控、日志查看、补数据、重跑任务、告警配置等。
  • 发布管理:可区分生产环境、测试环境,支持一键跨环境发布。
  • 项目管理:用户管理、角色管理、项目整体配置等。

约束与限制

仅支持Chrome浏览器72以上版本。

用户角色

角色权限
项目所有者指项目空间的创建者,拥有项目空间内的最高权限,可对该项目空间的基本属性、数据源、当前项目空间的全部资源和项目成员等进行管理,并为项目成员赋予项目管理员、开发、运维、访客角色。
项目管理员指项目空间的管理者,可对该项目空间的基本属性、数据源、当前项目空间的全部资源和项目成员等进行管理,并为项目成员赋予项目管理员、开发、运维、访客角色。项目管理员不能对项目所有者操作。
数据开发数据开发角色的用户能够创建任务、脚本、资源等,新建/删除表,但不能执行发布操作。
运维运维角色的用户由项目管理员分配运维权限;拥有发布任务、运维任务的操作权限,没有数据开发的操作权限。
访客只具备查看权限,没有权限进行编辑任务、运维等操作
tip

目前离线开发的用户角色是固定的,不支持编辑,每个角色的详细权限点可参考"权限点"文档