526互联

HBase-统计表总行数的三种方式

发布时间 2023-10-17 15:41:05作者: 业余砖家

 由于Hbase是列式数据库，没有提供类似SQL的数据查询语句，可以通过以下三种方式获取表的总行数。

1. 使用Hbase自带的Count命令

      hbase提供了count命令可以在hbase交互界面使用，获取总行数。

hbase> count ‘test′  

hbase> count ‘t1′, INTERVAL => 100000

  INTERVAL为统计的行数间隔，默认为1000。使用此种方式效率比较低，一般数据量在千万级别时，耗时6分钟以上，不建议使用。

2.使用hbase自动的mapreduce任务统计行数

    hbase自带有继承的统计表行数的mapreduce的Job---->org.apache.hadoop.hbase.mapreduce.RowCounter

$HBASE_HOME/bin/hbase   org.apache.hadoop.hbase.mapreduce.RowCounter   tableName

  运行结果会在ROWS处体现

  这种方法会启用mapreduce任务去统计行数，在数据量比较大时，可以简单的使用此命令。

3.使用hive创建外表关联Hbase表

  对于存在的hbase表，在hive中创建关联表，然后使用语句统计总行数

CREATE EXTERNAL TABLE Test(
mRID string,
name string,
nominalVoltage FLOAT
)
ROW FORMAT SERDE'org.apache.hadoop.hive.hbase.HBaseSerDe'
STORED BY'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES("hbase.columns.mapping" = ":key,pw:name,pw:nominalVoltage")
TBLPROPERTIES("hbase.table.name"= "test");