DBus 实时数据总线 项目简介
DBus 专注于数据的收集及实时数据流计算,通过简单灵活的配置,以无侵入的方式对源端数据进行采集,采用高可用的流式计算框架,对在业务流程中产生的数据进行汇聚,经过转换处理后成为统一 JSON 的数据格式(UMS),提供给不同数据使用方订阅和消费,充当数仓平台、大数据分析平台、实时报表和实时营销等业务的数据源。DBus 将 UAV 采集的全维监控数据以无侵入方式进行实时收集,为下游大数据处理平台 Wormhole 运行统计模型和机器学习提供数据源。此外,DBus 还提供以下特性:多种数据源支持,海量数据实时传输感知源端 schema 变更,数据实时脱敏初始加载和独立加载统一标准化消息传输协议,可靠多路消息订阅分发支持分表数据汇集DBus 技术架构DBus 支持 Oracle,MySQL,Log, RocketMQ 等数据源,这次开源版本支持 MySQL 数据源(支持版本 v5.6, v5.7),DBus的主要潜在客户包括:数仓平台和数据分析平台实时营销决策实时报表展示异构数据实时同步其他实时性要求高的系统