python读取hbase数据

793 篇文章 ¥99.90 ¥299.90
这篇博客主要介绍了如何使用Python的HappyBase库来读取HBase数据库中的数据。作者首先引用了HappyBase的官方文档,并提供了一段Python代码示例,展示了如何进行全表扫描。对于大数据量场景,作者提醒读者参考官方文档以优化查询策略。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

happybase官方文档

HappyBase — HappyBase 1.2.0 documentation

代码

 # 注意 我这里表小,使用scan全表扫描hbase数据,如果你数据量大,建议看官方文档.

import happybase
'''
本脚本的需求是从hbase获取到rowkey的set,然后和hive中某列比较,下面的代码会说去hbase中rowkey组成的set
'''


'''
导入包:
    pip install thrift
    pip install hbase-thrift
    pip install happybase

报错 No protocol version header https://blog.csdn.net/u012447842/article/details/90603942
    需要 启动hbase thrift服务(默认端口9090)    ./hbase-daemon.sh start thrift
    查看thrift是否启动:
        shell>> jps
            28668 ThriftServer
        shell>> netstat -anp|grep 9090
            可以看到 9090端口占用的pid和ThriftServer的
<think>我们参考用户提供的引用[1]和引用[2]中的代码示例,它们都使用了`sc.newAPIHadoopRDD`方法来读取HBase数据。同时,引用[3]提到了一种转换思路(将HBase数据映射到Hive表,然后直接读取Hive表得到DataFrame),但用户明确要求使用Spark读取HBase的示例代码,因此我们主要展示第一种方式。注意:在Spark中读取HBase数据通常需要将HBase的配置(如Zookeeper地址、表名)传递给RDD读取方法。另外,需要指定key和value的转换器。根据引用[1]和[2]的示例,我们可以整合一个基本的读取HBase数据的代码框架。同时,我们需要注意,引用[1]中的代码在valueConv的字符串中有一个逗号写成了点(应该是笔误),我们这里修正一下。步骤:1.创建SparkConf和SparkContext。2.设置HBase配置,包括Zookeeper的地址和要读取的表。3.定义key和value的转换器(使用Spark自带的转换器)。4.使用`newAPIHadoopRDD`方法读取数据,得到RDD。5.对RDD进行操作(如count,collect等)。另外,引用[4]提到了一种使用SparkSQL读取HBase数据的方式,但需要特定的包。这里用户没有提供具体的包,所以我们先使用基本的方法。注意:使用这种方式读取HBase需要确保Spark的类路径中包含HBase的相关jar包。通常,在提交Spark作业时需要指定这些jar包。下面提供示例代码:</think> ### 使用 PySpark 读取 HBase 数据的解决方案 根据站内引用和最佳实践,以下是使用 Python Spark 读取 HBase 数据的完整示例代码,包含三种常用方式: #### 方式1:使用 `newAPIHadoopRDD` 基础读取(适合全表扫描) ```python #!/usr/bin/env python3 from pyspark import SparkConf, SparkContext # 初始化 Spark 环境 conf = SparkConf().setMaster("local").setAppName("HBaseReader") sc = SparkContext(conf=conf) # HBase 配置参数 hbase_conf = { "hbase.zookeeper.quorum": "localhost", # Zookeeper 地址 "hbase.mapreduce.inputtable": "student", # 目标表名 "hbase.scan.cache": "100", # 每次扫描缓存行数 "zookeeper.znode.parent": "/hbase" # HBase 根路径(集群配置) } # 键值转换器 key_conv = "org.apache.spark.examples.pythonconverters.ImmutableBytesWritableToStringConverter" value_conv = "org.apache.spark.examples.pythonconverters.HBaseResultToStringConverter" # 读取 HBase 数据 hbase_rdd = sc.newAPIHadoopRDD( inputFormatClass="org.apache.hadoop.hbase.mapreduce.TableInputFormat", keyClass="org.apache.hadoop.hbase.io.ImmutableBytesWritable", valueClass="org.apache.hadoop.hbase.client.Result", keyConverter=key_conv, valueConverter=value_conv, conf=hbase_conf ) # 数据处理示例 print("总记录数:", hbase_rdd.count()) for row_key, row_data in hbase_rdd.take(3): print(f"RowKey: {row_key}, Data: {row_data}") ``` #### 方式2:通过 Phoenix 高效查询(推荐生产环境) ```python from pyspark.sql import SparkSession spark = SparkSession.builder \ .appName("PhoenixReader") \ .config("spark.jars.packages", "org.apache.phoenix:phoenix-spark:5.0.0-HBase-2.0") \ .getOrCreate() # 构建 Phoenix 查询 df = spark.read \ .format("org.apache.phoenix.spark") \ .option("table", "student") \ .option("zkUrl", "localhost:2181:/hbase") \ .load() # 执行 SQL 查询 df.createOrReplaceTempView("students") result = spark.sql("SELECT name, age FROM students WHERE grade > 80") result.show(5) ``` #### 方式3:转换为 DataFrame(需添加数据处理) ```python from pyspark.sql import Row # 转换函数 def parse_hbase_record(row): cols = row[1].split(';') return Row( rowkey=row[0], name=cols[0].split(':')[1], age=int(cols[1].split(':')[1]) ) # 转换 RDD → DataFrame parsed_rdd = hbase_rdd.map(parse_hbase_record) df = spark.createDataFrame(parsed_rdd) df.printSchema() df.show() ``` ### 关键配置说明 1. **依赖配置**: - 必须包含 HBase 和 Phoenix 的 Jar 包 - 提交命令示例: ```shell spark-submit --packages org.apache.hbase:hbase-client:2.4.9,org.apache.phoenix:phoenix-spark:5.0.0-HBase-2.0 your_script.py ``` 2. **配置优化**: ```python # 增加扫描缓存提升性能 hbase_conf["hbase.client.scanner.caching"] = "1000" # 设置批量处理大小 hbase_conf["hbase.htable.threads.max"] = "8" ``` 3. **查询过滤**: ```python # 添加 RowKey 范围过滤 hbase_conf["hbase.mapreduce.scan.row.start"] = "user100" hbase_conf["hbase.mapreduce.scan.row.stop"] = "user200" ``` ### 常见问题解决 1. **ClassNotFound 错误**: 确保包含所有 HBase 相关依赖包[^1][^2] 2. **连接超时**: 检查 `hbase.zookeeper.quorum` 和 `zookeeper.znode.parent` 配置是否正确[^2] 3. **性能优化**: - 避免全表扫描,使用 RowKey 范围查询 - 批量读取设置合适的缓存大小[^1][^2] > 注意:直接读取 HBase 适合批量处理,实时查询推荐 Phoenix 方案[^3][^4]
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Thomas2143

您的打赏是我的动力!!!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值