安科网

Hbase scan 查询命令大全，前缀，模糊，正则

Buerzhu

Buerzhu

2020-05-01

关注 关注
Hbase scan 查询例子数据?https://java-er.com/blog/hbase-scan-all-command/
stu 学生
列族 base 存储学生姓名，身高基本信息
列族 score 存储成绩
c1_s1 c1 班级 s1 学生编号

create ‘stu‘,‘base‘,‘score‘
put ‘stu‘,‘c1_s1‘,‘base:name‘,‘jack‘
put ‘stu‘,‘c1_s2‘,‘base:name‘,‘jack2‘
put ‘stu‘,‘c1_s3‘,‘base:name‘,‘jack3‘
put ‘stu‘,‘c1_s4‘,‘base:name‘,‘jack4‘
put ‘stu‘,‘c2_s1‘,‘base:name‘,‘tom1‘
put ‘stu‘,‘c2_s2‘,‘base:name‘,‘tom2‘
put ‘stu‘,‘c2_s2‘,‘base:weight‘,‘70kg‘
put ‘stu‘,‘c2_s3‘,‘base:name‘,‘tom3‘
put ‘stu‘,‘c2_s3‘,‘base:weight‘,‘85kg‘
put ‘stu‘,‘c2_s3‘,‘base:height‘,‘1.70m‘
小菜：如何将查询的结果，输入文件
echo “scan ‘stu’,{LIMIT=>1}” | ./hbase shell > a.txt

  1. Hbase scan扫描全表，指定返回特定的列

hbase(main):028:0> scan ‘stu‘,{COLUMNS => [‘base:weight‘,‘base:height‘]}
ROW COLUMN+CELL
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
2 row(s)
Took 0.0113 seconds

  1. Hbase TIMERANGE 扫描指定时间内数据，前闭后开
    注意：包含等于前面时间的数据，不含等于后面时间的数据

hbase(main):028:0> scan ‘stu‘,{TIMERANGE=>[1588153968060,1588153968207]}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
2 row(s)
Took 0.0108 seconds

  1. Hbase 利用STARTROW STOPROW 扫描rowkey的范围
    注意：包含等于前面key的数据，不含等于后面key的数据

hbase(main):028:0> scan ‘stu‘,{STARTROW=>‘c1_s1‘,STOPROW=>‘c1_s3‘}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
2 row(s)
Took 0.0092 seconds
4.?HBase?翻转结果和时间组合排序 REVERSED

全表扫描翻转结果

scan ‘stu‘, {REVERSED => TRUE}
和时间组合翻转

hbase(main):009:0> scan ‘stu‘,{TIMERANGE=>[1588153968060,1588153968207],REVERSED => TRUE}
ROW COLUMN+CELL
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s1 column=base:name, timestamp=1588153968060, value=jack

  1. Hbase 返回指标 ALL_METRICS or METRICS

hbase(main):011:0> scan ‘stu‘,{ALL_METRICS => true}ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
7 row(s)
?
METRIC VALUE
BYTES_IN_REMOTE_RESULTS 0
BYTES_IN_RESULTS 420
MILLIS_BETWEEN_NEXTS 66
NOT_SERVING_REGION_EXCEPTION 0
REGIONS_SCANNED 1
REMOTE_RPC_CALLS 0
REMOTE_RPC_RETRIES 0
ROWS_FILTERED 0
ROWS_SCANNED 7
RPC_CALLS 1
RPC_RETRIES 0
scan ‘stu‘,{METRICS => [‘ROWS_SCANNED‘,‘RPC_CALLS‘]}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
7 row(s)
?
METRIC VALUE
ROWS_SCANNED 7
RPC_CALLS 1
Took 0.0476 seconds

6.Hbase 查询以指定开头的rowkey数据。

hbase(main):014:0> scan ‘stu‘,{ROWPREFIXFILTER => ‘c1‘}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
4 row(s)
hbase(main):016:0> scan ‘stu‘,{FILTER => "PrefixFilter(‘c1‘)"}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
4 row(s)
Took 0.0181 seconds
7.按列查找 QualifierFilter

按列查找，可以指定某一确定的列或列的范围。binary是确定的参数，substring是参数中含有的值。

scan ‘stu‘,{FILTER => "(QualifierFilter (<,‘binary:name‘)) AND (QualifierFilter (=,‘substring:jack‘))"}
8.以指定列的前缀查找数据。ColumnPrefixFilter

hbase(main):012:0> scan ‘stu‘,{FILTER=>"ColumnPrefixFilter(‘na‘) AND (ValueFilter(=,‘substring:1‘) OR ValueFilter(=,‘substring:3‘))"}
ROW COLUMN+CELL
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
3 row(s)
Took 0.0075 seconds

  1. 按值查找，可以指定确定的值或者值的范围。ValueFilter

hbase(main):018:0> scan ‘stu‘,{FILTER=>"ValueFilter(=,‘binary:jack‘)"}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
1 row(s)
10.按时间戳 TimestampsFilter

hbase(main):022:0> scan ‘stu‘,{FILTER => "TimestampsFilter(1588153968060,1588153968207)"}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
2 row(s)
Took 0.0151 seconds
时间等于1588153968060 和 1588153968207 的记录

  1. RAW指导扫描器返回所有单元格(包括删除标记和未收集的已删除单元格)。此选项不能与请求特定列相结合。默认情况下禁用。

hbase(main):024:0> scan ‘stu‘,{RAW => true,VERSIONS => 2}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
7 row(s)
Took 0.0346 seconds
我们删除一条

delete ‘stu‘,‘c1_s4‘,‘base:name‘
?
hbase(main):027:0> scan ‘stu‘,{RAW => true,VERSIONS => 2}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c1_s4 column=base:name, timestamp=1588153968258, type=Delete
c1_s4 column=base:name, timestamp=1588153968258, value=jack4
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
7 row(s)
Took 0.0189 seconds
显示type=Delete

12.FirstKeyOnlyFilter
一个rowkey可以有多个version,同一个rowkey的同一个column也会有多个的值, 只拿出key中的第一个column的第一个version
KeyOnlyFilter: 只要key,不要value

hbase(main):038:0> scan ‘stu‘,FILTER => "FirstKeyOnlyFilter() AND ValueFilter(=,‘binary:jack2‘) AND KeyOnlyFilter()"
ROW COLUMN+CELL
c1_s2 column=base:name, timestamp=1588153968114, value=
1 row(s)
Took 0.0083 seconds

  1. 限制返回只要两列

hbase(main):040:0> scan ‘stu‘, {LIMIT => 2}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
2 row(s)
Took 0.0077 seconds
14.引入Java类包

列分页过滤器：基于列进行分页，需要设置偏移量与返回数量。分页ColumnPaginationFilter

语法 ColumnPaginationFilter.new(limit, offset)

hbase(main):002:0> import org.apache.hadoop.hbase.filter.ColumnPaginationFilter
=> [Java::OrgApacheHadoopHbaseFilter::ColumnPaginationFilter]
?
hbase(main):040:0> scan ‘stu‘, {FILTER =>ColumnPaginationFilter.new(3, 1)}
ROW COLUMN+CELL
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
2 row(s)
Took 0.0154 seconds

  1. 查找rowkey里面包含s2

hbase(main):013:0> import org.apache.hadoop.hbase.filter.CompareFilter
=> [Java::OrgApacheHadoopHbaseFilter::CompareFilter]
hbase(main):014:0> import org.apache.hadoop.hbase.filter.CompareFilter
=> [Java::OrgApacheHadoopHbaseFilter::CompareFilter]
hbase(main):015:0> import org.apache.hadoop.hbase.filter.SubstringComparator
=> [Java::OrgApacheHadoopHbaseFilter::SubstringComparator]
hbase(main):016:0> import org.apache.hadoop.hbase.filter.RowFilter
=> [Java::OrgApacheHadoopHbaseFilter::RowFilter]
?
hbase(main):017:0> scan ‘stu‘,{FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf(‘EQUAL‘),SubstringComparator.new(‘s2‘))}
ROW COLUMN+CELL
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
2 row(s)
Took 0.0427 seconds

  1. 正则表达式查询

import org.apache.hadoop.hbase.filter.RegexStringComparator
import org.apache.hadoop.hbase.filter.CompareFilter
import org.apache.hadoop.hbase.filter.SubstringComparator
import org.apache.hadoop.hbase.filter.RowFilter
直接拷贝上面的四句话

hbase(main):018:0> import org.apache.hadoop.hbase.filter.RegexStringComparator
=> [Java::OrgApacheHadoopHbaseFilter::RegexStringComparator]
hbase(main):019:0> import org.apache.hadoop.hbase.filter.CompareFilter
=> [Java::OrgApacheHadoopHbaseFilter::CompareFilter]
hbase(main):020:0> import org.apache.hadoop.hbase.filter.SubstringComparator
=> [Java::OrgApacheHadoopHbaseFilter::SubstringComparator]
hbase(main):021:0> import org.apache.hadoop.hbase.filter.RowFilter
=> [Java::OrgApacheHadoopHbaseFilter::RowFilter]
hbase(main):027:0> scan ‘stu‘, {FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf(‘EQUAL‘),RegexStringComparator.new(‘^c\d+_[a-z]\d+$‘))}
ROW COLUMN+CELL
c1_s1 column=base:name, timestamp=1588153968060, value=jack
c1_s2 column=base:name, timestamp=1588153968114, value=jack2
c1_s3 column=base:name, timestamp=1588153968207, value=jack3
c2_s1 column=base:name, timestamp=1588153968324, value=tom1
c2_s2 column=base:name, timestamp=1588153968367, value=tom2
c2_s2 column=base:weight, timestamp=1588154167692, value=70kg
c2_s3 column=base:height, timestamp=1588154125060, value=1.70m
c2_s3 column=base:name, timestamp=1588153968409, value=tom3
c2_s3 column=base:weight, timestamp=1588154124202, value=85kg
6 row(s)
Took 0.0385 seconds
感觉不到变化

hbase(main):036:0> put ‘stu‘,‘c3_s55‘,‘base:name‘,‘Lucy‘
hbase(main):037:0> scan ‘stu‘, {FILTER => RowFilter.new(CompareFilter::CompareOp.valueOf(‘EQUAL‘),RegexStringComparator.new(‘^c\d+_s55$‘))}
ROW COLUMN+CELL
c3_s55 column=base:name, timestamp=1588162870203, value=Lucy
1 row(s)
Took 0.0082 seconds

hbase 正则

Buerzhu

Buerzhu

0 关注 0 粉丝 0 动态

关注 关注

相关推荐

HBase/TiDB都在用的数据结构：LSM Tree，不得了解一下？

LSM Tree广泛应用在HBase，TiDB等诸多数据库和存储引擎上，我们先来看一下它的一些应用：。这么牛X的名单，你不想了解下LSM Tree吗？装X之前，我们先来了解一些基本概念。设计数据存储系统可能需要考虑的一些问题有：ACID，RUM。读性能体现

晨曦之星 2020-08-14

hbase 基础 —— 架构

典型的主从架构。其中 RegionServers 负责与客户端的交互，访问数据 HMaster 负责 Region 分配，DDL 操作。hbase table 根据 RowKey 划分成多个 Region，Region 包含所划分范围的所有行数据。Regi

lwb 2020-07-26

hdfs、hive、hbase的搭建总结

-- 完全分布式文件系统的名称 ：schema ip port -->. -- 分布式文件系统的其他路径的所依赖的一个基础路径，完全分布式不能使用默认值，因为临路径不安全，linux系统在重启时，可能会删除此目录下的内容-->. --

eternityzzy 2020-07-19

hbase 建表 数据类型

下面几个shell 命令在后续的hbase 操作中可以起到很到的作用，且主要体现在建表的过程中，看下面几个create 属性1、BLOOMFILTER 默认是NONE 是否使用布隆过虑使用何种方式布隆过滤可以每列族单独启用。对ROW，行键的哈希在每次插入行

大而话之BigData 2020-06-16

Hbase常见问题

Hbase的数据是按照字典排序的，当大量连续的rowkey集中写到个别的region，各个region之间实际分布不均衡；创建表已经提前预分区，但是设计的rowkey没有规律可循。随机数+业务主键，如果更好的让最近的数据get到，可以加上时间戳；加盐之后的

ITwangnengjie 2020-06-14

hue集成hbase

# Comma-separated list of HBase Thrift servers for clusters in the format of ‘‘.# If using Kerberos we assume GSSAPI SASL, not P

gengwx00 2020-06-11

HBase安装部署

在slave01上运行jps，确认DataNode, NodeManager进程启动。分别在master，slave01，slave02上启动zookeeper. 查看解压后HBase目录中包含的文件。修改JAVA环境变量，去除export JAVA_HO

大而话之BigData 2020-06-10

在hadoop集群下启动hbase的方法

start-all.sh(前提是在bashrc中配置export PATH=$PATH:$HADOOP_HOME/sbin export PATH=$PATH:$HAOOP_HOME/bin)

鲸鱼写程序 2020-06-08

Spark读取Hbase中的数据

大家可能都知道很熟悉Spark的两种常见的数据读取方式：、调用parallelize函数直接从集合中获取数据，并存入RDD中；Java版本如下：。其实对文件来说，Spark支持Hadoop所支持的所有文件类型和文件存放位置。过往记忆博客，专注于hadoop

needyit 2020-06-04

Flume-0.9.4和Hbase-0.96整合

Flume里面自带了Hbase sink，可以直接调用啊，还用说么？这是因为Flume-0.9.4和Hbase-0.96整合比Flume-1.4.0和Hbase-0.96整合麻烦多了！不是随便几个配置就能搞定的，里面涉及到修改Flume和Hadoop的源码

strongyoung 2020-06-04

HBase的安装部署

　　副本数为1， 取消权限。在启动前，先进行namenode格式化。这样hadoop就安装完成了。配置不使用自带的Zookeeper. # Tell HBase whether it should manage it‘s own instance of Z

WeiHHH 2020-05-30

Spark读取Mysql，Redis，Hbase数据（一）

"select * from TBLS where TBL_ID >= ?

needyit 2020-05-10

Spark 与 JDBC、Hbase之间的交互

"select id, name from user where id >= ?1,//对应第一个 ？10,//对应第二个 ？

ITwangnengjie 2020-05-09

1，pinpoint全链路监控

Pinpoint-Collector和Pinpoint-Web最好安装在一个机器上。在结尾修改成如下，这里我们指定Hbase本地来存储数据，生产环境将数据建议存入HDFS中。这个脚本不能直接wget，因为wget下载下来的是一个网页。执行pinpoint提

gengwx00 2020-05-08

HBase与Hive

用于数据分析、清洗：Hive适用于离线的数据分析和清洗，延迟较高。基于HDFS、MapReduce：Hive存储的数据依旧在DataNode上，编写的HQL语句终将是转换为MapReduce代码执行。操作Hive可能对HBase产生影响，所以Hive需要持

gengwx00 2020-05-09

HBase与MapReduce交互

飞鸿踏雪0 2020-05-07

HBase原理总结

HBase分布式数据库，面向列存储，支持实时、随机读写。HDFS 为 Hbase 提供可靠的底层数据存储服务，MapReduce 为 Hbase 提供高性能的计算能力，Zookeeper 为 Hbase 提供。稳定服务和Failover机制，因此，Hbas

大而话之BigData 2020-05-06

Hbase API 创建表错误记录 for Docker 容器部署集群

最终我们看到成功了，然后我们是三台Docker容器，我们为了后面的不会再次出现这个错误，我们把 salve2 节点的 hbase 的HRegionServer机器主机名。应用程序对数据的读写操作都是通过和HRegion通信完成，16020端口是Region

gengwx00 2020-04-30

hbase设置ttl后出现坏块，重启后master abort 问题梳理

　　可以看到，问题是由于把某个region进行transit过程中出现了错。　　造成的原因很可能就是重新设置了ttl造成数据块中造成了部分损坏。　　在此版本中，当region在transition过程中出现了错误，但并不会影响master的正常启动。

gengwx00 2020-04-29

HBase可用性分析与高可用实践

HBase作为一个分布式存储的数据库，它是如何保证可用性的呢？对于分布式系统的CAP问题，它是如何权衡的呢？最重要的是，我们在生产实践中，又应该如何保证HBase服务的高可用呢？下面我们来仔细分析一下。CAP是指一致性、可用性和分区容错性。一致性指更新操作

loviezhang 2020-04-26
Buerzhu

Buerzhu

W3CSchool教程
HTML 教程
CSS 教程
Bootstrap 教程
Javascript 教程
jQuery 教程
后端教程
C 教程
Java 教程
PHP 教程
Python 教程
Go 教程
移动开发
Android 教程
Swift 教程
Kotlin 教程
jQuery Mobile 教程
ionic 教程
关于我们
新闻动态
联系方式
招聘英才
安科实验室
帮助与反馈

安科网(Ancii)，中国第一极客网

Copyright © 2013 - 2019 Ancii.com

京ICP备18063983号 京公网安备11010802014868号