查看hfile的内容 发表于 2015-02-20 | 分类于 hbase 12345678910111213关键字: HFile Tool 采用org.apache.hadoop.hbase.io.hfile.HFile工具 命令:${HBASE_HOME}/bin/hbase org.apache.hadoop.hbase.io.hfile.HFi ... 阅读全文 »
zookeeper服务对hbase的影响 发表于 2015-02-20 | 分类于 hbase 在hbase运行期间,删除所有的znode,hbase会自动停掉所有进程,服务停止。 但是这些znode信息可以通过重启hbase来恢复。 所以假如误删了znode,hbase无法提供服务的时候,立马重启hbase即可解决问题。 阅读全文 »
HDFS权限配置 发表于 2015-02-20 | 分类于 hadoop 1.开启权限配置修改hdfs-site.xml配置文件,添加:1234<property><name>dfs.namenode.acls.enabled</name><value>true</value></property> ... 阅读全文 »
HBase权限控制 发表于 2015-02-20 | 分类于 hbase 周末线上HBase集群全部机器报警,紧急上线重启,然后查找原因,通过log看到是人为shutdown, 这是因为线上HBase应用服务器都配置了hbase-site.xml,直接就能连到线上进行操作。这对我们 运维人员来说是个漏洞,需要立刻补上这个漏洞。 相比较MySQL等关系型数据库,HBase的 ... 阅读全文 »
BlockCache 发表于 2015-02-20 | 分类于 hbase 默认配置HBase使用single on-heap cache(堆内)。 如果配置了off-heap BucketCache,则on-heap缓存将用于布隆过滤器和索引,而off-heap BucketCache则用于缓存数据块,称为Combined Blockcache。 Combined Blo ... 阅读全文 »
HBase GC原理和优化 发表于 2015-02-20 | 分类于 hbase 学习来源:HBase官网和http://hbasefly.com/ Java GC GC的出现是来源于在内存管理时大多数内存对象要么生存周期特别短,可以快速进行内存回收。要么生存周期比较长。 JVM将整个堆内存分为两部分:新生代(young generation)和 ... 阅读全文 »
HBase HBCK 发表于 2015-02-20 | 分类于 hbase hbase hbck检查和修复数据一致性。 HBase提供了hbck命令来检查各种不一致问题。检查hbase集群数据一致性1[hadoop@hostname /home/q/hbase/hbase-0.98.1-cdh5.1.0]$ ./bin/hbase hbck Status: OK表示集群是一 ... 阅读全文 »
Non DFS Used计算 发表于 2015-02-20 | 分类于 hadoop 100G的磁盘,dfs.datanode.du.reserved配置是30G,系统文件和其它一些文件一共40G,dfs使用了10个G,那么NonDFSUsed使用了多少? Non DFS used = 100GB(Total) - 30 GB( Reserved) - 10 GB (DFS used ... 阅读全文 »
HBase备份恢复实战篇 发表于 2015-02-20 | 分类于 hbase 模拟线上需求:数据不断有写入,需要搭建一个该表的slave供离线分析。12create 'testtable', {NAME => 'c1'}for i in '1'..'10000' do f ... 阅读全文 »
TCP网卡绑定的问题 发表于 2015-02-20 | 分类于 hbase 现象haas中regionserver频繁报警killed、running。分析hbase regionserver日志发现异常: 12345678910111213141516171819202122232425262728293031322017-08-29 11:14:33,703 WARN ... 阅读全文 »