做h游戏视频网站,营山网站建设,湖南有几个市,百度虚拟主机怎么使用ClickHouse的物化视图是一种查询结果的持久化#xff0c;它确实是给我们带来了查询效率的提升。用户查起来跟表没有区别#xff0c;它就是一张表#xff0c;它也像是一张时刻在预计算的表#xff0c;创建的过程它是用了一个特殊引擎#xff0c;加上后来 as select#xf… ClickHouse的物化视图是一种查询结果的持久化它确实是给我们带来了查询效率的提升。用户查起来跟表没有区别它就是一张表它也像是一张时刻在预计算的表创建的过程它是用了一个特殊引擎加上后来 as select就是create一个table as select的写法。 “查询结果集”的范围很宽泛可以是基础表中部分数据的一份简单拷贝也可以是多表join之后产生的结果或其子集或者原始数据的聚合指标等等。所以物化视图不会随着基础表的变化而变化所以它也称为快照snapshot 1 概述 1.1 物化视图与普通视图的区别 普通视图不保存数据保存的仅仅是查询语句查询的时候还是从原表读取数据可以将普通视图理解为是个子查询。物化视图则是把查询的结果根据相应的引擎存入到了磁盘或内存中对数据重新进行了组织你可以理解物化视图是完全的一张新表。 1.2 优缺点 优点查询速度快要是把物化视图这些规则全部写好它比原数据查询快了很多总的行数少了因为都预计算好了。 缺点它的本质是一个流式数据的使用场景是累加式的技术所以要用历史数据做去重、去核这样的分析在物化视图里面是不太好用的。在某些场景的使用也是有限的。而且如果一张表加了好多物化视图在写这张表的时候就会消耗很多机器的资源比如数据带宽占满、存储一下子增加了很多。 1.3 基本语法 也是create语法会创建一个隐藏的目标表来保存视图数据。也可以TO 表名保存到一张显式的表。没有加TO表名表名默认就是 .inner.物化视图名 CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name] [ENGINE engine] [POPULATE] AS SELECT ...1创建物化视图的限制 1.必须指定物化视图的engine 用于数据存储 2.TO [db].[table]语法的时候不得使用POPULATE。 3.查询语句(select可以包含下面的子句 DISTINCT, GROUP BY, ORDER BY, LIMIT… 4.物化视图的alter操作有些限制操作起来不大方便。 5.若物化视图的定义使用了TO [db.]name 子语句则可以将目标表的视图 卸载 DETACH 再装载 ATTACH 2物化视图的数据更新 1物化视图创建好之后若源表被写入新数据则物化视图也会同步更新 2POPULATE 关键字决定了物化视图的更新策略 若有POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入类似于 create table ... as 若无POPULATE 则物化视图在创建之后没有数据只会在创建只有同步之后写入源表的数据clickhouse 官方并不推荐使用POPULATE因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。 3物化视图不支持同步删除若源表的数据不存在删除了则物化视图的数据仍然保留 4物化视图是一种特殊的数据表可以用show tables 查看 5物化视图数据的删除 6物化视图的删除 2 案例实操 对于一些确定的数据模型可将统计指标通过物化视图的方式进行构建这样可避免查询时重复计算的过程物化视图会在有新数据插入时进行更新。 2.1 准备测试用表和数据 1建表 #建表语句
CREATE TABLE hits_test
(EventDate Date, CounterID UInt32, UserID UInt64, URL String, Income UInt8
)
ENGINE MergeTree()
PARTITION BY toYYYYMM(EventDate)
ORDER BY (CounterID, EventDate, intHash32(UserID))
SAMPLE BY intHash32(UserID)
SETTINGS index_granularity 81922导入一些数据 INSERT INTO hits_test SELECT EventDate,CounterID,UserID,URL,Income
FROM hits_v1
limit 10000;2.2 创建物化视图 #建表语句
CREATE MATERIALIZED VIEW hits_mv
ENGINESummingMergeTree
PARTITION BY toYYYYMM(EventDate) ORDER BY (EventDate, intHash32(UserID))
AS SELECT
UserID,
EventDate,
count(URL) as ClickCount,
sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate 2014-03-20 #设置更新点,该时间点之前的数据可以另外通过 #insert into select …… 的方式进行插入
GROUP BY UserID,EventDate;##或者可以用下列语法表A可以是一张mergetree表
CREATE MATERIALIZED VIEW 物化视图名 TO 表A
AS SELECT FROM 表B;#不建议添加populate关键字进行全量更新2.3 导入增量数据 #导入增量数据
INSERT INTO hits_test
SELECT EventDate,CounterID,UserID,URL,Income
FROM hits_v1
WHERE EventDate 2014-03-23
limit 10;#查询物化视图
SELECT * FROM hits_mv;2.4 导入历史数据 #导入增量数据
INSERT INTO hits_mv
SELECTUserID,EventDate,count(URL) as ClickCount,sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate 2014-03-20
GROUP BY UserID,EventDate#查询物化视图
SELECT * FROM hits_mv;
