hbase时间范围分页查询优化实践

生产情况

生产情况介绍

汽车故障码明细数据量大(PB级),明细数据存储在hbase中,早期产品的需求主要是根据tuid查询某天某车某控制器的故障情况,所以rowkey的设计规则是:tuid+日期+控制器+故障码编号+时间戳,这样,相安无事。现在需求是,查指定TUID的某段时间的明细数据,时间跨度不超过7天,查询条件时间精确到秒,接口返回时间不超过1秒。

方案设计

初始方案是,由于无法保障数据在同一个resion中,所以不能用Hbase原生的PageFilter进行过滤scan,考虑构建FilterList, 采用startRow和endRow方式过滤,scan出起始时间当天到截止时间当天的所有的数据,再进行过滤即可,但是该方案有个非常耗时的操作,不是扫描,是扫描后数据的提取

scan.setFilter(filterList);
List<byte[]> list = new <
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值