六月即将过半,伴着夏日的声声蝉鸣,greptimedb v0.3 如期而至。
在 4 月中旬发布的 中,我们主要目标集中在单机,promql 兼容,写入性能优化等。v0.2 的单机版本有了较好的基础,而在 v0.3 版本,我们的关键词则是 “分布式”,也就是所有的能力或是更新均在分布式版本上提供(分布式提供了单机版本不具备的扩展性、高可用性和容错性等),总结来讲,主要是以下几个方面:
- 分布式性能优化:实现了 region 级别的高可用性,提供了快速的容灾切换调度。同时也对分布式写入性能进行了优化。
- 查询能力提升:包括支持分布式查询优化、重要 sql 查询(如 topk)的改善以及优化数据压缩策略来加快查询速度。
- 稳定性增强:为了增加系统的健壮性和可靠性,引入了 procedure 框架来保障多步操作的最终一致性。同时提供了更细粒度的 hybrid-flush 策略以提高写入的稳定性,并增加了更多性能指标度量的埋点来提升系统的可观测性,支持如 tokio console 等工具。
从 0.2 到 0.3,一个半月时间,仅 greptimedb 项目就合并了 222 prs, 涉及到 674 个文件修改,包含了 120 个功能优化,50 个修复以及 20 重构,这些数字的背后是 27 位社区贡献者的努力。特别感谢社区和团队的努力,接下来,我们重点回顾 v0.3 的核心内容。
greptimedb v0.3 重点内容
实现 region 级别的高可用
在分布式系统中,为了保障高可用,需要做到 region 级别的容灾, greptimedb 在 v0.3 版本中支持了这一特性,是最终达到分布式高可用的重要里程碑.由于涉及到 frontend, meta 和 datanode 等不同组件的改造,影响面较广,我们通过 来跟踪整个实现过程,如果你对此感兴趣,欢迎关注,当然,一切是从 开始:
重要的 sql 查询场景优化
基于过去的业务经验,在 greptimedb v0.3 开发中重点优化了最常用的查询场景,比如 topk 等,主要还是利用了剪枝的思维,我们也将整个工作分成了多个子任务,并通过 跟踪。
分布式查询优化,支持常用算子下推
为了数据库的分析能力,很早就有人提出 near-data processing 的方式,也就是给予存储层一定的算力,让一些简单的计算在数据中心完成之后再返回,这样可以避免大量原始数据的传输,而算子下推(operator push-down) 是最常见的实现方式,greptimedb v0.3 支持了 promql 大部分算子和谓词的下推,优化分布式查询。这么重要的功能,我们也事先通过 讨论实现方案,具体实现可参见 . (greptime 开发日常:这个 pr 超过了 1000 行代码的修改,在我们内部是极不推荐的,但因为 author 会发红包,大家也就勉强原谅了 ta,甚至还有点期待)
引入了 procedure 框架,保障多步操作的最终一致性
为了增加系统的健壮性和可靠性,受 启发,greptimedb 也用 rust 写了一个 procedure 框架来保障多步操作的最终一致性,这又是一个从 开始的故事,而且有一个超级庞大的 在跟踪,v0.3 并不是他的终点,故事还将继续。(对了,如果你觉得 rfc 太枯燥,也可以参考 来理解到底什么是 procedure)
增加更多的性能指标提升系统的可观测性
作为可观测体系下的可靠存储方案,greptimedb 自身的可观测性也必须做好,在 v0.3 在版本中,增加了更多的 metric 指标用来检测系统的运行情况,这部分内容遍及到每个组件中,可以参看 。
其他细节的优化:
- 支持查询外部数据,导入导出 csv/json/parquet 格式文件
- 支持
tql explain
/tql analyze
从句,分析 promql 查询性能 - 提高了 promql 兼容性
- 在集群模式下支持启用 tokio 控制台
- 等等
整体上,v0.3 会是一个初步可以试用的分布式版本,它具备了 region 粒度的服务高可用(数据高可靠还待后续版本完成),重点场景的分布式查询(重点是 promql 查询方向)和写入性能均达到或者略微超过主流同类数据库性能的水位线。
升级注意事项
如果您是从 0.2 升级而来,需要特别注意以下几点:
- 使用本地存储,需要修改配置
data_dir
,该选项已经废弃,假设您原来设置data_dir = "/greptimedb/data"
,那么需要修改为data_home = "/greptimedb"
,data_home
替代指定数据根目录。 - 建议升级之前使用 备份数据
greptimedb v0.4 计划
从 0.3 开始便将研发重点聚焦到分布式,并制定了中长期计划,按月迭代,0.4 的主题就是性能和完善现有功能,将聚焦在以下几个功能:
- 分布式 ddl 语句的支持像 create table, drop table 等接入 procedure 框架确保分布式多步操作的正确执行
- 异步的压缩和索引,提升查询性能
- 在 0.3 版本我们支持了 promql 大部分算子和谓词的下推,0.4 版本将聚焦到 sql 中的常见算子的下推以提升 sql 查询性能
- 重点优化表引擎和存储引擎,提升读写性能,降低资源消耗
致谢社区
感谢亲爱的社区和所有贡献者们,是你们的每一个建议、bug 修复和代码贡献,才让这个项目不断壮大、迈向新高峰。
关于 greptime
greptime 格睿科技于 2022 年创立,目前正在完善和打造时序数据库greptimedb 和格睿云 greptimecloud 这两款产品。
greptimedb 是一款用 rust 语言编写的时序数据库,具有分布式、开源、云原生、兼容性强等特点,帮助企业实时读写、处理和分析时序数据的同时,降低长期存储的成本。
greptimecloud 基于开源的 greptimedb,为用户提供全托管的 dbaas,以及与可观测性、物联网等领域结合的应用产品。利用云提供软件和服务,可以达到快速的自助开通和交付,标准化的运维支持,和更好的资源弹性。greptimecloud 已正式开放内测,欢迎关注公众号或m6米乐安卓版下载官网了解最新动态!
m6米乐安卓版下载官网:https://greptime.com/
公众号:greptimedb
github: https://github.com/greptimeteam/greptimedb
文档:https://docs.greptime.com/
twitter: https://twitter.com/greptime
slack: https://greptime.com/slack
linkedin: https://www.linkedin.com/company/greptime/