目录
starrocks产品简介
- starrocks是一款经过业界检验、现代化,面向多种数据分析场景的、 兼容mysql协议的、高性能分布式关系型分析数据库。
- starrocks充分吸收关系型olap数据库和分布式存储系统在大数据时代的优秀研究成果, 并在业界实践的基础上, 进一步改进优化, 架构升级和添加新功能, 形成了全新的企业级产品。
- starrocks致力于满足企业用户的多种数据分析场景,支持多种数据模型(明细表, 聚合表), 多种导入方式(批量), 可整合和接入多种现有系统(spark, flink, hive, elasticsearch)。
- starrocks兼容mysql协议, 可使用mysql客户端和常用bi工具对接starrocks来进行数据分析。
- starrocks采用分布式架构, 对table进行水平划分并以多副本存储. 集群规模可以灵活伸缩, 能够支持10pb级别的数据分析; 支持mpp, 并行加速计算; 支持多副本, 具有弹性容错能力。
- starrocks采用关系模型, 使用严格的数据类型, 使用列式存储引擎, 通过编码和压缩技术, 降低读写放大. 使用向量化执行方式, 充分挖掘多核cpu的并行计算能力, 从而显著提升查询性能。
starrocks产品特性
starrocks的架构设计融合了mpp数据库,以及分布式系统的设计思想,具有以下特性:
-
架构精简
starrocks内部通过mpp计算框架完成sql的具体执行工作。mpp框架本身能够充分的利用多节点的计算能力,整个查询并行执行,从而实现很好的交互式分析体验。 starrocks集群的不需要依赖任何其他组件,易部署,易维护,极简的架构设计,降低了starrocks系统的复杂度和维护成本,同时也提升了系统的可靠性和扩展性。 管理员只需要专注于starrocks系统,无需学习和管理任何其他外部系统。
-
全面向量化引擎
starrocks的计算层全面采用了向量化技术,将所有算子,函数,扫描过滤,导入导出模块进行了系统性优化。通过列式的内存布局、适配cpu的simd指令集等手段,充分发挥了现代cpu的并行计算能力,从而实现亚秒级别的多维分析能力。
-
智能查询优化
starrocks通过cbo优化器(cost based optimizer)可以对复杂查询自动优化。无需人工干预,就可以通过统计信息合理估算执行成本,生成更优的执行计划,大大提高了adhoc和etl场景的数据分析效率。
-
联邦查询
starrocks支持使用外表的方式进行联邦查询,当前可以支持hive,mysql,elastic serach三种类型的外表,用户无需通过数据导入,可以直接进行数据查询加速。
-
高效更新
starrocks支持多种数据模型,其中更新模型可以按照主键进行upsert/delete操作,通过存储和索引的优化可以在并发更新的同时实现高效的查询优化,更好的服务实时数仓的场景。
-
智能物化视图
starrocks支持智能的物化视图。用户可以通过创建物化视图,预先计算生成预聚合表用于加速聚合类查询请求。 starrocks的物化视图能够在数据导入时自动完成汇聚,与原始表数据保持一致。并且在查询的时候,用户无需指定物化视图,starrocks能够自动选择最优的物化视图来满足查询请求。
-
标准sql
starrocks支持标准的sql语法,包括聚合,join,排序,窗口函数,自定义函数等功能。starrocks可以完整支持tpc-h的22个sql和tpc-ds的99个sql。此外,starrocks还兼容mysql协议语法,可使用现有的各种客户端工具、bi软件访问starrocks, 对starrocks中的数据进行拖拽式分析。
-
流批一体
starrocks支持实时和批量两种数据导入方式, 支持的数据源有kafka, hdfs, 本地文件,支持的数据格式有orc, parquet和csv等, starrocks可以实时消费kafka数据来完成数据导入,保证数据不丢不重(exactly once)。starrocks也可以从本地或者远程(hdfs)批量导入数据。
-
高可用易扩展
starrocks的元数据和数据都是多副本存储,并且集群中服务有热备, 多实例部署,避免了单点故障。集群具有自愈能力, 可弹性恢复,节点的宕机、下线、异常都不会影响starrocks集群服务的整体稳定性。 starrocks采用分布式架构,存储容量和计算能力可近似线性水平扩展。starrocks单集群的节点规模可扩展到数百节点,数据规模可达到10pb级别。 扩缩容期间可以正常提供查询服务。 另外starrocks表模式热变更,可通过一条简单sql命令动态地修改表的定义, 例如增加列、减少列、新建物化视图等。同时,处于模式变更中的表也可也正常导入和查询数据。
产品优势
极速sql查询
- 全新的向量化执行引擎,亚秒级查询延时,单节点每秒可处理多达100亿行数据。
- 强大的mpp执行框架,支持星型模型和雪花模型,极致的join性能。
- 综合查询速度比其他产品快10-100倍
- 查看性能测试报告
实时数据分析
- 新型列式存储引擎,支持大规模数据实时写入,秒级实时性保证。
- 支持业务指标实时聚合,加速实时多维数据分析。
- 新型读写并发管理模式,可同时高效处理数据读取和写入。
高并发查询
- 灵活的资源分配策略,每秒可支持高达1万以上的并发查询。
- 可高效支持数千用户同时进行数据分析。
轻松管理大数据
- 支持在大数据规模下进行在线弹性扩展,扩容不影响线上业务。集群可扩展至数百节点,pb量级数据。
集群运行高度自治化,故障自恢复,运维成本低。
国产核心软件
- 完全自主创新,全球领先。
- 更完善的本地化专家服务体系。
starrocks应用场景
starrocks可以满足企业级用户的多种分析需求,包括olap多维分析,定制报表,实时数据分析,ad-hoc数据分析等。具体的业务场景包括:
-
olap多维分析
用户行为分析
用户画像,标签分析,圈人
高维业务指标报表
自助式报表平台
业务问题探查分析
跨主题业务分析
财务报表
系统监控分析 -
实时数据分析
电商大促数据分析
教育行业的直播质量分析
物流行业的运单分析
金融行业绩效分析,指标计算
广告投放分析
管理驾驶舱
探针分析apm(application performance management) -
高并发查询
广告主报表分析
零售行业渠道人员分析
saas行业面向用户分析报表
dashbroad多页面分析 -
统一分析
原有系统复杂,多维分析,高并发查询,预计算,实时分析,adhoc查询等场景下使用了多套系统,希望统一使用一套系统解决olap问题
相关资料
starrocksm6米乐安卓版下载官网:
starrocks产品手册:
starrocks源码: