增城移动网站建设,网站建设系统公司,h5页面生成,网站栏目做跳转作者#xff1a;张友东 StarRocks TSC member/镜舟科技 CTO 数据分析是现代企业和组织决策过程中不可或缺的一部分#xff0c;数据分析技术经过数十年的发展#xff0c;需求场景从 BI 报表到数据探寻、实时预测、用户画像等不断丰富#xff0c;技术架构经历从数据仓库、数据… 作者张友东 StarRocks TSC member/镜舟科技 CTO 数据分析是现代企业和组织决策过程中不可或缺的一部分数据分析技术经过数十年的发展需求场景从 BI 报表到数据探寻、实时预测、用户画像等不断丰富技术架构经历从数据仓库、数据湖、到数据湖仓的演进并走向数据湖仓一体架构通过一套架构服务多样化的分析场景。
数据仓库 数据仓库的发展可以追溯到 1980 年关系型数据库、日志文件等数据源的数据经过 ETL 处理统一存储到数据仓库用于服务 BI 报表、数据挖掘等分析场景。数据仓库在数据质量、事务处理、查询性能、数据治理等方面有明显的优势但随着数据分析的需求越来越大数据仓库的方案也面临一些挑战。 数据多样化除了结构化的数据半结构化、非结构化的数据越来越多。 数据孤岛问题数据仓库面向主题管理导致数据分散形成孤岛难以形成全局统一的数据分析。 成本与扩展性大数据量增长带来数据存储成本与横向扩展的问题。 高级数据分析支持数据仓库能很好的支持 BI 相关应用但随着 AI 的发展AI 应用与数据仓库的数据交互效率不高制约了 AI 应用的发展。
数据湖 数据湖的概念在 2010 年首次提出如果把数据仓库/集市类比为瓶装水数据湖则是以更加原生态方式存储数据的大池子。数据湖的核心优势是统一与开放数据基于对象存储、HDFS 等系统实现低成本、可扩展的 数据存储并作为企业数据的 Single Source of Truth同时数据的数据格式是开放的便于不同的应用灵活访问。
数据湖解决了数据成本与扩展性、数据多样性、数据孤岛等问题并同时满足 BI 与 AI 应用对数据分析的诉求但数据湖在数据分析性能、数据管理与治理方面仍然存在较大的挑战。
湖仓分层架构 数据仓库与数据湖各有长处业界持续在探索两者如何更好地融合在过去几年湖仓分层的架构得到广泛的应用。企业数据统一写到数据湖作为统一存储湖上开放的数据可以服务 AI、ML 等应用场景数据湖上部分数据经过 ETL 处理导入到数据仓库服务 BI 等 OLAP 分析场景。
湖仓分层架构融合了数据湖与数据仓库的优势但面临一些问题与挑战。部分数据从数据湖导入到数据仓库数据链路的增长影响数据分析的时效性两份数据也会带来冗余存储、数据口径不一致的问题另外对于数据仓库里加工产生的数据仍然很难高效的服务 AI 场景。
数据湖仓 湖仓分层架构在过去几年被广泛应用并且不断地加深融合。新兴的数据仓库如 Snowflake、Redshift、BigQuery 均采用云原生存算分离架构演进并且支持直接查询开放数据湖的能力。数据湖在事务支持、查询性能等方面的能力不如数据仓库近年来随着新兴数据湖格式如 Iceberg、Hudi、Delta Lake 等的发展事务支持能力得到提升另外在查询性能上通过不断优化数据湖上的数据分布以及增加缓存机制等技术的演进数据湖上的数据分析性能已经大幅提升达到接近数据仓库的水平。 从数据湖和数据仓库的演进来看两者在不断的融合并逐步往数据湖仓的方向演进兼具数据湖与数据仓库的优势。数据湖仓作为一种新的数据分析架构用户采用湖仓就能方便将数据源和数据应用连接在一起。数据湖仓兼具数据仓库与数据湖的优势湖仓具备开放统一的数据存储能力并基于统一存储直接服务批处理、流处理、交互式分析等多种分析场景实现湖仓 One dataall analytics 的业务价值。
StarRocks 3.0Evolution to Lakehouse
StarRocks 2.0 版本凭借其优异的查询性能在业界得到广泛应用很多用户采用湖仓分层架构并将 Hive、Iceberg 等数据湖里的数据部分导入到 StarRocks 服务 OLAP 分析场景。StarRocks 3.0 通过存算分离架构升级、极速的湖仓分析性能、物化视图等关键能力帮助用户构建数据湖仓简化数据分析架构。
存算分离架构 StarRocks 存算分离 2023 年 4 月正式发布目前已有上百家用户上线存算分离架构。与存算一体架构相比保持了原有简洁的架构同时极大的降低数据存储成本提升计算的弹性能力。 访问远端对象存储的延时相比本地存储有数量级的提升StarRocks 通过 Data Cache 机制提升数据访问性能确保热数据与存算一体架构接近。根据实际测试存算分离缓存命中的情况与存算一体架构相比性能完全相同在完全冷查询时性能大概是存算一体的 30-50%。
在存算分离架构下StarRocks 可以方便的支持 Multi-warehouse 的能力多个 Warehouse 共享一份数据不同 Warehouse 应用在不同的 Workload计算资源可以进行物理隔离并且可以按需独立弹性伸缩。
极速湖仓分析 StarRocks 3.0 提供统一 Catalog 管理的能力用户不仅能高效分析导入到 StarRocks 的数据同时也支持直接分析开放数据湖 Apache Hive、Apache Iceberg、Apache Hudi、Apache Paimon 的数据分析性能相比业界同类产品快 3-5 倍。 StarRocks 在查询层 CBO、向量化、Runtime filter 等技术可以无缝应用到开放数据湖分析但湖上数据分析还面临一些其他挑战。湖上数据一般以原始格式存储数据组织上没有针对查询优化同时访问远端对象存储/HDFS 的延时相比本地盘更高。StarRocks 通过 I/O 合并、延迟物化、Data cache 等一系列关键技术加速湖上数据分析。另外为了让用户平滑的获得 StarRocks 极速湖仓分析性能StarRocks 实现了 Trino 方言的兼容用户可以采用 StarRocks 无缝直替 Trino。
物化视图 StarRocks 物化视图提供了一种从预建模到后建模的方法大大缩短业务建模以及上线时间。业务可以直接查询原始数据借助 StarRocks 极致的查询性能已经能满足绝大部分场景的需求如果直接查询性能不满足则可以按需构建物化视图来加速查询StarRocks 支持物化视图的透明查询改写实现业务无感的情况下实现查询加速。
基于 StarRocks 构建 Lakehouse
基于 StarRocks用户可以高效的构建 Lakehouse 数据分析架构用户可以选择 StarRocks 内表或开放数据湖 Apache Iceberg、Apache Hudi、Apache Paimon 作为统一的数据存储基于 StarRocks 服务 BI 报表、Ad-hoc 等多样化的分析场景对于业务性能要求高的查询通过物化视图技术实现按需透明加速。 湖仓实践案例 腾讯微信数据写入到 Iceberg基于 StarRocks 实现准实时分析数据新鲜度从小时/天到分钟即查询性能提升 3-6 倍。 携程旅行数据统一存储在 Hive通过 StarRocks 直接服务 BI 报表交互式分析。重点业务场景按需创建物化视图查询加速查询性能提升 10 倍
总结
Lakehouse 兼具数据仓库与数据湖的优势是下一代数据分析架构的演进趋势StarRocks 是构建 Lakehouse 的最佳选择已在微信、小红书、携程、平安银行等数十个大型企业落地实践帮助企业实现 One data、all analytics 的业务价值。
更多交流联系我们https://wx.focussend.com/weComLink/mobileQrCodeLink/33412/8da64
