hive 全量表、增量表、快照表、切片表和拉链表

最新推荐文章于 2023-03-09 14:46:05 发布

a724952091

最新推荐文章于 2023-03-09 14:46:05 发布

阅读量4.8k

点赞数 1

CC 4.0 BY-SA版权

本文链接：https://blog.csdn.net/a724952091/article/details/107718751

全量表：记录每天的所有的最新状态的数据，
增量表：记录每天的新增数据，增量数据是上次导出之后的新数据。
快照表：按日分区，记录截止数据日期的全量数据
切片表：切片表根据基础表，往往只反映某一个维度的相应数据。其表结构与基础表结构相同，但数据往往只有某一维度，或者某一个事实条件的数据

拉链表：记录每条信息的生命周期，当一条记录的生命周期结束，就会重新开始一条新的记录，并把当前日期放入生效开始日期。如果当前信息至今有效，则在生效结束日期中填入一个极大值（如9999-99-99），一般在数仓中通过增加start_date，end_date两列来表示。

拉链表适合于数据会发生变化，但是大部分是不变的。

使用拉链表的方式：通过生效开始日期<= 某个日期且生效结束日期>=某个日期，能够得到某个时间点的数据全量切片。

拉链表的形成过程，比如下图

如何制作拉链表？
1）新建和初始化拉链表dwd_order_info_his（首次独立执行）

drop table if exists dwd_order_info_his;
create external table dwd_order_info_his(
    `id` string COMMENT '订单编号',
    `total_amount` decimal(10,2) COMMENT '订单金额',
    `order_status` string COMMENT '订单状态',
    `user_id` string COMMENT '用户id' ,
    `payment_way` string COMMENT '支付方式',
    `out_trade_no` string COMMENT '支付流水号',
    `create_ti