databus概述
来源:互联网 发布:tensorflow 图片识别 编辑:程序博客网 时间:2024/05/23 02:04
概述
Databus 是 LinkedIn 开源的一款低延迟的分布式数据库同步系统(a source-agnostic distributed change data capture system),它提供可靠的数据捕获、流转和数据处理功能。针对这些功能,有以下几个特性:
- 隔离性 (隔离数据源和消费端);
- 高可用性 (保证有秩序的且至少一次数据传递);
- 数据完整性 (在任意的时间点的数据变化有完整的数据引导和回溯能力);
- 一致性 (源一致性保存);
- 分区消费
技术架构
Databus Relays
- 从数据源中读取变化的数据,并且将这些数据序列化保存在内存中;
- 监听client的请求(包括bootstrap client),且返回数据变化的事件给client(包括bootstrap client);
- 详细参考(02-Databus Relays)
Databus Clients
- 通过Databus Relays restful 服务,检查新的数据变化事件,并处理业务逻辑(如同步数据、保存入缓存服务等);
- 如果与relays的连接断开时间太长(SCN号差别大),会向bootstrap server发送一个查询请求;
- 新的客户端向bootstrap server查询之后,切换到relays获取最近的数据变化事件;
- 客户端可以单独的部署处理所有的databus relays事件,也可以主从部署,每个消费端只消费一部分事件;
- 详细参考(03-Databus Clients)
Databus Bootstrap Servers
- 监听databus clients的请求,并返回回溯数据变化事件,用于数据引导和数据追赶;
- 详细参考(04-Databus Bootstrap)
Databus Bootstrap Producers
- 一个特殊的客户端;
- 检查Databus Relays上的数据变化事件;
- 将检查到的数据变化时间保存至 mysql 数据库;
- Mysql 数据库用于 Clients 引导和回溯数据
0 0
- databus概述
- mongobd Databus
- Databus Relays
- Databus Clients
- Databus简介
- Databus deploy toplogy
- 架构分析—LinkedIn出品的databus
- Databus-实时低延时数据抓取系统
- Databus系统构想 Client端(一)
- LinkedIn实时低延迟数据抓取系统Databus开源
- LinkedIn实时低延迟数据抓取系统Databus开源
- LinkedIn实时低延迟数据抓取系统Databus
- 概述
- 概述
- 概述
- 概述
- 概述
- 概述
- docker集群之mysql
- Java中对Clone的理解
- 接口调用注意
- linux用户新增
- 内网服务器通过CCproxy代理上网(…
- databus概述
- docker+nginx+keepalived环境搭建
- Q&A——资源管理(十三)
- SVN服务搭建
- sql的一种配置新方法
- 软引用-弱引用
- docker 小记(一)
- 掌握 Android Proguard 配置使用之二 语法详解
- ESB v6.6 JDK1.8版本时安装Governor报错