Hadoop+Hbase+ZooKeeper集群安裝方法

2024-06-28 16:02:30

字體：大中小

供稿：網(wǎng)友

Hadoop+Hbase+ZooKeeper集群安裝方法

1、主機(jī)配置如下：（添加到/etc/hosts文件里面）192.168.0.211 master #（用于集群主機(jī)提供hmaster namenode jobtasker服務(wù) ） 192.168.0.212 s1 #(用于集群叢機(jī)提供regionsrever datanode tasktacuter服務(wù)) 192.168.0.213 s22、安裝jdk1.6.2.X3、添加java環(huán)境變量（/etc/PRofile），后執(zhí)行source /etc/profile ,使環(huán)境變量立即生效export JAVA_HOME=/usr/java/jdk1.6.0_26/ #java 的目錄export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib export PATH=$JAVA_HOME/bin:$PATH:$CATALINA_HOME/bin export HADOOP_HOME=/home/hadoop/hadoop export HBASE_HOME=/home/hadoop/hbase PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HBASE_HOME/bin4、在三臺(tái)電腦上添加hadoop用戶useradd hadoop5、在/home/hadoop/.bashrc添加變量(將hadoop hbase的配置文件放到hadoop安裝包根目錄文件下，目的在于以后升級(jí)hadoop和hbase的時(shí)候不用重新導(dǎo)入配置文件)export HADOOP_CONF_DIR=/home/hadoop/hadoop-config export HBASE_CONF_DIR=/home/hadoop/hbase-config6、將hadoop hbase zookepper的安裝包解壓到/home/hadoop/下，并重命名為hadoop hbase zookepper，在home/hadoop/下建立hadoop-config和hbase-config文件夾，并且將home/hadoop/hadoop/conf下的masters、slaves、core-site、mapred-sit、hdfs-site、hadoop-env拷貝到此文件夾，將home/hadoop/hbase/conf下的hbase-site和hbase-env.sh拷貝到次文件夾。7、修改masters、slaves文件：分別為 master 和s1與s28、修改hadoop-env.sh的變量：export JAVA_HOME=/usr/java/jdk1.6.0_26/ export HADOOP_PID_DIR=/home/hadoop/hadoop/tmp9、修改core-site.xml<configuration> <property> <name>fs.default.name</name> <value>hdfs://master:9000</value> </property> </configuration>修改mapred-site.xml<configuration> <property> <name>mapred.job.tracker</name> <value>hdfs://master:9001/</value> </property> </configuration>修改`hdfs-site.xml（name和data文件夾不要手動(dòng)建立）<configuration> <property> <name>dfs.name.dir</name> <value>/home/hadoop/hadoop/name</value> </property> <property> <name>dfs.data.dir</name> <value>/home/hadoop/hadoop/data/</value> </property> <property> <name>dfs.replication</name> <value>3</value> </property> </configuration>10、設(shè)置master, s1, s2機(jī)幾臺(tái)器之間無(wú)密碼訪問(wèn)：**11、復(fù)制目錄至集群叢機(jī)scp -r /home/hadoop/hadoop s1:/home/hadoopscp -r /home/hadoop/hadoop s2:/home/hadoop12、切換到/home/hadoop/hadoop目錄下執(zhí)行bin/hadoop namenode -format(格式化master主機(jī)生成name data tmp等文件夾)13、啟動(dòng)namenode執(zhí)行bin/start-dfs.sh使用jps命令查看namenode、secondnamenode是否正常啟動(dòng)：ie里面輸入http://master:50070 查看namenode的相關(guān)配置信息、運(yùn)行狀態(tài)和日志文件14、啟動(dòng)mapred執(zhí)行bin/start-mapred.sh使用jps命令查看nomenode、secondnamenode是否正常啟動(dòng)：ie里面輸入http://master:50030 查看jobtasker的相關(guān)配置信息、運(yùn)行狀態(tài)和日志文件

hbase+zookeeper集群搭建：1、復(fù)制目錄修改文件

將/home/hadoop/hadoop/conf/目錄下的hbase-site.xml、regionserver和hbase-env.sh拷貝到/home/hadoop/hbase-config/目錄下；
編輯hbase-site.xml配置文件，如下：
<property> <name>hbase.rootdir</name> <value>hdfs://master:9000/hbase</value> </property> <property> <name>hbase.cluster.distributed</name> <value>true</value> </property> <property> <name>hbase.master</name> <value>master</value> </property> <property> <name>hbase.zookeeper.quorum</name> <value>s1,s2</value> </property> <property> <name>zookeeper.session.timeout</name> <value>60000000</value> </property> <property> <name>hbase.zookeeper.property.clientport</name> <value>2222</value> </property>2、編輯regionserver文件
S1 S23、編輯hbase-env.xml文件
export JAVA_HOME=/usr/java/jdk1.6.0_26/ export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib export PATH=$JAVA_HOME/bin:$PATH:$CATALINA_HOME/bin export HADOOP_HOME=/home/hadoop/hadoop export HBASE_HOME=/home/hadoop/hbase export HBASE_MANAGES_ZK=true export PATH=$PATH:/home/hadoop/hbase/bin4、復(fù)制文件到集群叢機(jī)
scp -r /home/hadoop/hbase s1:/home/hadoop scp -r /home/hadoop/hbase s2:/home/hadoop5、進(jìn)入/home/hadoop/zookeeper/conf/中
(1)
cp zoo_sample.cfg zoo.cfg
(2)
vim zoo.cfg
如下：
# The number of milliseconds of each tick tickTime=2000 # The number of ticks that the initial # synchronization phase can take initLimit=10 # The number of ticks that can pass between # sending a request and getting an acknowledgement syncLimit=5 # the directory where the snapshot is stored. dataDir=/home/hadoop/zookeeper/data # the port at which the clients will connect clientPort=2181 server.1=s1:2888:3888 server.2=s2:2888:3888
(3)
touch myid
*編輯：1（此序號(hào)設(shè)置和zoo.cfg里面的server設(shè)置要對(duì)應(yīng))
scp -r /home/hadoop/zookeeper s1:/home/hadoop scp -r /home/hadoop/zookeeper s2:/home/hadoop
（4）在所有的節(jié)點(diǎn)執(zhí)行
chown -R hadoop.hadoop /home/hadoop
啟動(dòng)hbase集群：
（1）/home/hadoop/hbase/bin/start-base.sh
（2）執(zhí)行jps顯示Hmaster是否啟動(dòng)
（3）執(zhí)行bin/hbase shell
(4)
create 't1' t2'' 't3'#(測(cè)試?yán)胔master插入數(shù)據(jù)) list #（顯示已經(jīng)插入的數(shù)據(jù)） t1+t2+t3
輸入：http://master:60010