ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

头歌实践教学平台:大数据存储2023(十五)

头歌实践教学平台:大数据存储2023(十五) 十五、HBase 伪分布式环境搭建任务描述本关任务安装伪分布式HBase。相关知识上次实训中我们已经完成了单机版HBase的安装单机版意味着我们的HBase数据仍然是存放在本地而没有存放在Hadoop集群中本关我们来学习如何配置一个伪分布式的HBase环境伪分布式意味着HBase仍然在单个主机上运行但每个HBase的守护程序HMaster、HRegionServer和Zookeeper作为单独的进程运行在伪分布式的环境下我们会将HBase的数据存储在HDFS中而不是存放在本地了接下来我们就来一起搭建环境吧。实验环境hadoop2.7JDK8HBase2.1.1hadoop已安装JDK已安装环境变量已配置HBase压缩包已下载存放在/opt目录下。在搭建环境之前我们首先来了解一下HBase分布式环境的整体架构我们来简单认识一下与HBase的相关组件ZookeeperZookeeper能为HBase提供协同服务是HBase的一个重要组件Zookeeper能实时的监控HBase的健康状态并作出相应处理。HMasterHMaster是HBase的主服务他负责监控集群中所有的HRegionServer并对表和Region进行管理操作比如创建表修改表移除表等等。HRegionHRegion是对表进行划分的基本单元一个表在刚刚创建时只有一个Region但是随着记录的增加表会变得越来越大HRegionServer会实时跟踪Region的大小当Region增大到某个值时就会进行切割split操作由一个Region切分成两个Region。HRegionServerHRegionServer是RegionServer的实例它负责服务和管理多个HRegion 实例并直接响应用户的读写请求。总的来说要部署一个分布式的HBase数据库需要各个组件的协作HBase通过Zookeeper进行分布式应用管理Zookeeper相当于管理员HBase将数据存储在HDFS分布式文件系统中通过HDFS存储数据所以我们搭建分布式的HBase数据库的整体思路也在这里即将各个服务进行整合。接下来我们就一起来搭建一个伪分布式的HBase。配置与启动伪分布式HBase如果你已经完成了单节点HBase的安装那伪分布式的配置对你来说应该很简单了只需要修改hbase-site.xml文件即可vim /app/hbase-2.1.1/conf/hbase-site.xml在这里主要有两项配置1.开启HBase的分布式运行模式配置hbase.cluster.distributed为true代表开启HBase的分布式运行模式propertynamehbase.cluster.distributed/namevaluetrue/value/property2.是设置HBase的数据文件存储位置为HDFS的/hbase目录要注意的是在这里我们不需要在HDFS中手动创建hbase目录因为HBase会帮我们自动创建。propertynamehbase.rootdir/namevaluehdfs://localhost:9000/hbase/value/property修改之后hbase-site.xml的configuration代码标红部分为我们需要注意的配置。我们在设置单节点的时候将hbase.unsafe.stream.capability.enforce属性值设置为了false在这里我们需要注意设置它的值为true或者干脆删除这个属性也是可以的。配置完成之后我们需要先启动Hadoop命令为start-dfs.sh然后启动HBase最后输入jps查看启动的进程如果出现HMaster和HRegionServer以及HQuorumPeer三个服务则代表伪分布式环境已经搭建成功了。在HDFS中验证接下来我们进一步验证在HDFS中检查HBase文件。如果一切正常HBase会在HDFS中自动建立自己的文件在上述配置文件中设置的文件位置为/hbase我们输入hadoop fs -ls /hbase即可查看如下图所示分布式文件系统HDFS中hbase文件夹已经创建了编程要求好了到你啦你需要先按照上次实训——HBase单节点安装的方式将HBase安装在/app目录下然后根据本关知识配置好伪分布式的HBase最后点击测评即可通关。测试说明程序会检测你的HBase服务和Hadoop服务是否启动以及伪分布式HBase是否配置正确。预期输出Hadoop 已启动hbase-env.sh解压路径正确Hbase已启动各配置项配置成功Hbase的HDFS目录创建成功伪分布式搭建成功开始你的任务吧祝你成功有任何问题都可以随时关注私信
返回列表