亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

配置密碼分布式集群環(huán)境hadoop、hbase、zookeep

系統(tǒng) 3398 0

新手發(fā)帖,很多方面都是剛?cè)腴T(mén),有錯(cuò)誤的地方請(qǐng)大家見(jiàn)諒,歡迎批評(píng)指正

????

1、環(huán)境說(shuō)明

???? 群集環(huán)境少至要需3個(gè)節(jié)點(diǎn)(也就是3臺(tái)服務(wù)器設(shè)備):1個(gè)Master,2個(gè)Slave,節(jié)點(diǎn)之間局域網(wǎng)連接,可以互相ping通,面下舉例說(shuō)明,配置節(jié)點(diǎn)IP分配如下:

????

Hostname IP 新建戶(hù)用 新建戶(hù)用密碼
Master 10.10.10.213 hadoop 123456
Slave1 10.10.10.214 hadoop 123456
Slave2 10.10.10.215 hadoop 123456

???? 三個(gè)節(jié)點(diǎn)均用使centos?6.3系統(tǒng),為了便于維護(hù),群集環(huán)境配置項(xiàng)最好用使同相戶(hù)用名、戶(hù)用密碼、同相hadoop、hbase、zookeeper錄目結(jié)構(gòu)。

????

2、準(zhǔn)備工作

????

2.1、修改Hostname

???? 為了群集可以畸形穩(wěn)定的運(yùn)行,我們要需將個(gè)每節(jié)點(diǎn)的hostname別分配置為對(duì)應(yīng)的Master、Slave1、Slave2。

???? (1)在Master服務(wù)器中執(zhí)行以下令命:

    hostname Master	//前當(dāng)效有
  
    vi /etc/sysconfig/network	//啟重后失效
  
    HOSTNAME=Master
  

???? (2)在Slave1服務(wù)器中執(zhí)行以下令命:

    hostname Slave1	//前當(dāng)效有
  
    vi /etc/sysconfig/network	//啟重后失效
  
    HOSTNAME=Slave1
  

???? (3)在Slave2服務(wù)器中執(zhí)行以下令命:

    hostname Slave2	//前當(dāng)效有
  
    vi /etc/sysconfig/network	//啟重后失效
  
    HOSTNAME=Slave2
  

????

2.2、添加Hosts映射系關(guān)

???? 別分在三個(gè)節(jié)點(diǎn)下通過(guò)如下令命修改hosts映射系關(guān):

    vi /etc/hosts
  

???? 添加內(nèi)容如下:

    Master	10.10.10.213

Slave1	10.10.10.214

Slave2	10.10.10.215
  

????

2.3、配置JDK環(huán)境

???? Hadoop群集必須賴(lài)依JDK環(huán)境,所以這里我們首先要需配置好JDK環(huán)境,樣同為了管理,我們議建服務(wù)器中的節(jié)點(diǎn)JDK安裝環(huán)境均在同相徑路下。

????

2.3.1、解壓安裝包

???? 拷貝jdk件文jdk-6u25-linux-x64.bin到/usr/lib/java件文錄目(該錄目可自行義定)下,解壓安裝包,如果件文權(quán)限被制約,可通過(guò)如下令命停止賦權(quán)限作操:

    chmod u+w jdk-6u25-linux-x64.bin
  

????

2.3.2、修改環(huán)境配置息信

    vi /etc/profile
  

???? 在最后加上:

    export JAVA_HOME=/usr/lib/java/jdk1.6.0_25

export PATH=$PATH:$JAVA_HOME/bin 

export CLASSPATH=.:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/rt.jar
  

???? 通過(guò)銷(xiāo)注或者以下令命使修改失效:

    source /etc/profile
  

????

2.3.3、檢查前當(dāng)JDK版本息信

    java -version
  

????

2.3.4、充補(bǔ)(可選)

???? 如果查看前當(dāng)?shù)腏DK版本不是剛才設(shè)置的JDK版本,則可以停止默許JDK版本設(shè)置作操:

    sudo update-alternatives --install /usr/bin/java java /usr/lib/java/jdk1.6.0_25/bin/java 300   

sudo update-alternatives --install /usr/bin/javac javac /usr/lib/java/jdk1.6.0_25/bin/javac 300   

sudo update-alternatives --config java(選擇jdk1.6.0_25版本的序號(hào)就行)
  

????

2.4、安裝SSH

???? Centos系統(tǒng)安裝時(shí)默許可以選擇安裝SSH,ubuntu下可以通過(guò)如下令命停止安裝(提前是必須聯(lián)網(wǎng)):

    sudo apt-get install ssh

sudo apt-get install rsync
  

????

2.5、新建戶(hù)用

???? 為了hadoop群集的全安與便利管理,我們要另外新建戶(hù)用,并設(shè)置密碼,令命如下:

    sudo adduser hadoop

sudo passwd hadoop
  

???? 上述令命中,第一行令命新建了一個(gè)user為hadoop的戶(hù)用,第二行令命是為這個(gè)hadoop戶(hù)用設(shè)置密碼,樣同最好服務(wù)器之間均保持一致。

????

2.6、配置群集之間SSH無(wú)密碼登岸

???? 群集環(huán)境的用使必須通過(guò)ssh無(wú)密碼登岸來(lái)執(zhí)行,本機(jī)登岸本機(jī)必須無(wú)密碼登岸,主機(jī)與從機(jī)之間必須可以向雙無(wú)密碼登岸,從機(jī)與從機(jī)之間無(wú)制約。以本次為例,比如Master與Slave1之間的無(wú)密碼登岸設(shè)置驟步如下:

???? (1)進(jìn)入Master服務(wù)器,停止無(wú)密碼自登岸設(shè)置

    ssh hadoop@Master	//登岸Master

ssh-keygen  -t  rsa  -P  ''  -f  ~/.ssh/id_rsa

cat  ~/.ssh/id_rsa.pub  >>  ~/.ssh/authorized_keys	//成生密鑰

chmod 700 ~/.ssh && chmod 600 ~/.ssh/*	//設(shè)置權(quán)限
  

???? 如果不知道是不是配置勝利,可通過(guò)如下令命停止驗(yàn)證:

    ssh localhost
  

????如果上述令命不要需輸入密碼則表現(xiàn)配置勝利。

???? 進(jìn)入Slave1服務(wù)器,停止無(wú)密碼自登岸設(shè)置,作操同上,只要將對(duì)應(yīng)的Master為改Slave1可即,此處省略。

???? (2)進(jìn)入Master服務(wù)器,設(shè)置Master->Slave1的無(wú)密碼登岸

    ssh hadoop@Master	//登岸Master

cat ~/.ssh/id_rsa.pub | ssh hadoop@Slave1 'cat - >> ~/.ssh/authorized_keys'

ssh hadoop@Slave1	//若此處不要需輸入密碼則配置勝利
  

???? (3)進(jìn)入Slave1服務(wù)器,設(shè)置Slave1->Master的無(wú)密碼登岸

    ssh hadoop@Slave1	//登岸Slave1

cat ~/.ssh/id_rsa.pub | ssh hadoop@Master 'cat - >> ~/.ssh/authorized_keys'

ssh hadoop@Master	//若此處不要需輸入密碼則勝利
  

???? 以上就是Master與Slave1之間的向雙無(wú)密碼登岸配置。Master與Slave2之間的配置道理同上述基本一樣,所以不再贅述。

????

3、Hadoop群集安裝配置

????

3.1、修改hadoop配置件文

????每日一道理
漫漫人生路,誰(shuí)都難免會(huì)遭遇各種失意或厄運(yùn)。在凄風(fēng)苦雨 慘霧愁云的考驗(yàn)面前,一個(gè)強(qiáng)者,是不會(huì)向命運(yùn)低頭的。風(fēng)再冷,不會(huì)永遠(yuǎn)不息;霧再濃,不會(huì)經(jīng)久不散。風(fēng)息霧散,仍是陽(yáng)光燦爛。

???? 在centos系統(tǒng)下解壓hadoop安裝包hadoop-1.0.3.tar.gz,修改conf錄目下的6個(gè)件文:

????(1)core-site.xml

    <configuration>

	<property>

		<name>fs.default.name</name>

		<value>hdfs://Master:9000</value>

	</property>

</configuration>
  

????(2)hadoop-env.sh

???? 在該件文中加上如下一行碼代:

    export JAVA_HOME=(你配置的jdk徑路,比如:/usr/java/jdk1.6.0_25)
  

???? (3)hdfs-site.xml

    <configuration>	

	<property>

		<name>dfs.name.dir</name>

		<value>/home/hadoop/temp/hadoop</value>

	</property>

	<property>

		<name>dfs.data.dir</name>

		<value>/home/hadoop/temp/hadoop</value>

	</property>

	<property>

		<name>dfs.replication</name>

		<value>1</value>

	</property>

	<property>

		<name>dfs.support.append</name>

		<value>true</value>

	</property>

</configuration>
  

???? (4)mapred-site.xml

    <configuration>

	<property>

		<name>mapred.job.tracker</name>

		<value>Master:9001</value>

	</property>

	<property>

		<name>mapred.acls.enabled</name>

		<value>false</value>

	</property>

</configuration>
  

???? (5)Masters

    Master
  

???? (6)Slaves

    Slave1

Slave2
  

????

3.2、步同安裝包

???? 將解壓修改后的hadoop-1.0.3件文夾別分拷貝到Master、Slave1、Slave2的同相hadoop安裝徑路下。

????

3.3、啟動(dòng)Hadoop群集

???? 進(jìn)入Master的hadoop-1.0.3錄目,執(zhí)行以下作操:

    bin/hadoop namenode -format	//式格化namenode,第一次啟動(dòng)服務(wù)前執(zhí)行的作操,后以不要需執(zhí)行

bin/start-all.sh	 //啟動(dòng)hadoop

jps	//用jps令命能看到除jps外有5個(gè)進(jìn)程
  

???? 至此,hadoop群集配置進(jìn)程結(jié)束。可通過(guò)瀏覽器地址http://10.10.10.213:50070?查看節(jié)點(diǎn)用啟狀態(tài)驗(yàn)證配置是不是勝利。

????

4、Zookeeper群集安裝配置

????

4.1、修改zookeeper配置件文zoo.cfg

???? 在centos系統(tǒng)下解壓zookeeper安裝包zookeeper-3.4.3.tar.gz?,進(jìn)入到conf錄目,將zoo_sample.cfg拷貝一份命名為zoo.cfg(Zookeeper?在啟動(dòng)時(shí)會(huì)找這個(gè)件文作為默許配置件文),開(kāi)打該件文停止修為改以下式格(注意權(quán)限問(wèn)題,如果最后配置有問(wèn)題請(qǐng)檢查進(jìn)程中權(quán)限是不是準(zhǔn)確)。

    dataDir=/home/hadoop/temp/zookeeper/data



server.0=10.10.10.213:2888:3888

server.1=10.10.10.214:2888:3888

server.2=10.10.10.215:2888:3888
  

????

4.2、新建錄目、新建并編輯myid件文

???? (本次配置myid件文放在/home/hadoop/temp/zookeeper/data錄目下)

    mkdir /home/hadoop/temp/zookeeper/data	//dataDir錄目

vi /home/hadoop/temp/zookeeper/data/myid
  

???? 注意myid件文中的內(nèi)容為:Master中為0,Slave1中為1,Slave2中為2,別分與zoo.cfg中對(duì)應(yīng)起來(lái)。

????

4.3、步同安裝包

???? 將解壓修改后的zookeeper-3.4.3件文夾別分拷貝到Master、Slave1、Slave2的同相zookeeper安裝徑路下。注意:myid件文的內(nèi)容不是一樣的,各服務(wù)器中別分是對(duì)應(yīng)zoo.cfg中的設(shè)置。

????

4.4、啟動(dòng)zookeeper

???? Zookeeper的啟動(dòng)與hadoop不一樣,要需個(gè)每節(jié)點(diǎn)都執(zhí)行,別分進(jìn)入3個(gè)節(jié)點(diǎn)的zookeeper-3.4.3錄目,啟動(dòng)zookeeper:

    bin/zkServer.sh start
  

????注意:此時(shí)如果報(bào)錯(cuò)先不會(huì)理,繼承在另兩臺(tái)服務(wù)器中執(zhí)行同相作操。

????

4.5、檢查zookeeper是不是配置勝利

???? 待3臺(tái)服務(wù)器均啟動(dòng)后,如果進(jìn)程準(zhǔn)確的話(huà)zookeeper應(yīng)當(dāng)經(jīng)已主動(dòng)選好leader,進(jìn)入每臺(tái)服務(wù)器的zookeeper-3.4.3錄目,執(zhí)行以下作操查看zookeeper啟動(dòng)狀態(tài):

    bin/zkServer.sh status
  

???? 如果涌現(xiàn)以下碼代表現(xiàn)安裝勝利了。

    [java] view plaincopy

JMX enabled by default  

Using config: /home/hadoop/zookeeper-3.4.3/bin/../conf/zoo.cfg  

Mode: follower	//或者有且只有一個(gè)leader
  

????

5、HBase群集安裝配置

????

5.1、修改hbase配置件文

???? 在centos系統(tǒng)下解壓hadoop安裝包hadoop-1.0.3.tar.gz,修改conf錄目下的3個(gè)件文:

???? (1)hbase-env.sh

    export JAVA_HOME=/usr/lib/java/jdk1.6.0_25	//JDK的安裝錄目

export HBASE_CLASSPATH=/home/hadoop/hadoop-1.0.3/conf	//hadoop的安裝錄目

export HBASE_MANAGES_ZK=true
  

???? (2)hbase-site.xml

    <configuration>

	<property>

		<name>hbase.rootdir</name>

		<value>hdfs://Master:9000/hbase</value>

	</property>  	

	<property>

		<name>hbase.cluster.distributed</name>

		<value>true</value>

	</property>

	<property>

		<name>hbase.zookeeper.property.clientPort</name>

		<value>2181</value>

	</property>

	<property>

		<name>hbase.zookeeper.quorum</name>

		<value>Master</value>

	</property>

	<property>

		<name>hbase.zookeeper.property.dataDir</name>

		<value>/home/hadoop/temp/zookeeper</value>

	</property>

	<property>

		<name>dfs.support.append</name>

		<value>true</value>

	</property>

</configuration>
  

???? (3)regionservers

    Slave1

Slave2
  

????

5.2、步同安裝包

???? 將解壓修改后的hbase-0.94.1-security件文夾別分拷貝到Master、Slave1、Slave2的同相hbase安裝徑路下。

????

5.3、啟動(dòng)HBase

???? 進(jìn)入Master的hbase-0.94.1-security錄目,執(zhí)行以下作操:

    bin/start-hbase.sh	//之后用jps查看是不是全部進(jìn)程都已啟動(dòng)
  

???? 至此,hbase服務(wù)配置進(jìn)程結(jié)束。可通過(guò)瀏覽器地址http://10.10.10.213:60010?查看hbase是不是可用。

???? 也可以執(zhí)行以下令命,進(jìn)入hbase?shell停止驗(yàn)證。

????

6、結(jié)語(yǔ)

????

關(guān)于hadoop、zookeeper、hbase的啟動(dòng)與閉關(guān)序順:?jiǎn)?dòng)時(shí)hadoop和zookeeper意隨前后,但是hbase必須最后啟動(dòng),閉關(guān)時(shí)hbase必須首先閉關(guān),然后意隨前后閉關(guān)hadoop、zookeeper。否則,會(huì)涌現(xiàn)異常。

關(guān)于各軟件的安裝包可以去官網(wǎng)下載,不同版本的安裝配置可能會(huì)有少量的變化,而且版本搭配如果不一樣的話(huà)也可能涌現(xiàn)問(wèn)題,有問(wèn)題就針對(duì)性地去查,這樣學(xué)習(xí)才有步進(jìn)。

文章結(jié)束給大家分享下程序員的一些笑話(huà)語(yǔ)錄: 打賭
飛機(jī)上,一位工程師和一位程序員坐在一起。程序員問(wèn)工程師是否樂(lè)意和他一起玩一種有趣的游戲。工程師想睡覺(jué),于是他很有禮貌地拒絕了,轉(zhuǎn)身要睡覺(jué)。程序員堅(jiān)持要玩并解釋說(shuō)這是一個(gè)非常有趣的游戲:"我問(wèn)你一個(gè)問(wèn)題,如果你不知道答案,我付你5美元。然后你問(wèn)我一個(gè)問(wèn)題,如果我答不上來(lái),我付你5美元。"然而,工程師又很有禮貌地拒絕了,又要去睡覺(jué)。  程序員這時(shí)有些著急了,他說(shuō):"好吧,如果你不知道答案,你付5美元;如果我不知道答案,我付50美元。"果然,這的確起了作用,工程師答應(yīng)了。程序員就問(wèn):"從地球到月球有多遠(yuǎn)?"工程師一句話(huà)也沒(méi)有說(shuō),給了程序員5美元。  現(xiàn)在輪到工程師了,他問(wèn)程序員:"什么上山時(shí)有三條腿,下山卻有四條腿?"程序員很吃驚地看著工程師,拿出他的便攜式電腦,查找里面的資料,過(guò)了半個(gè)小時(shí),他叫醒工程師并給了工程師50美元。工程師很禮貌地接過(guò)錢(qián)又要去睡覺(jué)。程序員有些惱怒,問(wèn):"那么答案是什么呢?"工程師什么也沒(méi)有說(shuō),掏出錢(qián)包,拿出5美元給程序員,轉(zhuǎn)身就去睡覺(jué)了。

配置密碼分布式集群環(huán)境hadoop、hbase、zookeeper搭建(全)


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號(hào)聯(lián)系: 360901061

您的支持是博主寫(xiě)作最大的動(dòng)力,如果您喜歡我的文章,感覺(jué)我的文章對(duì)您有幫助,請(qǐng)用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長(zhǎng)非常感激您!手機(jī)微信長(zhǎng)按不能支付解決辦法:請(qǐng)將微信支付二維碼保存到相冊(cè),切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對(duì)您有幫助就好】

您的支持是博主寫(xiě)作最大的動(dòng)力,如果您喜歡我的文章,感覺(jué)我的文章對(duì)您有幫助,請(qǐng)用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長(zhǎng)會(huì)非常 感謝您的哦!!!

發(fā)表我的評(píng)論
最新評(píng)論 總共0條評(píng)論
主站蜘蛛池模板: 色综合久久中文 | 一级特黄aa大片欧美小说 | 五月婷婷激情六月 | 国产精品久久成人影院 | 天天操操操操操 | 神马色片 | 欧美一级欧美三级 | 国产精品19禁在线观看2021 | 亚洲精品第四页中文字幕 | 中国性猛交xxxx乱大交 | 中文字幕在线观看免费视频 | 视频一区二区三区在线 | 一级特黄性色生活片一区二区 | 久久激情综合色丁香 | 免费一级特黄欧美大片久久网 | 国产在线一区二区三区欧美 | 四虎精品免费久久 | 欧美一区高清 | 国产99欧美精品久久精品久久 | h片在线免费观看 | 日韩一区二区在线免费观看 | 国产美女网址 | 国产精彩视频 | 四虎国产精品免费观看 | 九九热国产精品视频 | 深夜影院老司机69影院 | 日本久久黄色 | 波多野吉衣一区二区三区在线观看 | 免费一级大毛片a一观看不卡 | 国产亚洲精品xxx | 久久国产精品麻豆映画 | 青青草这里只有精品 | 日本α级毛片视频免费观看 | 精品国产三级 | 欧美福利在线视频 | 亚洲高清中文字幕综合网 | 99久久免费中文字幕精品 | 日本黄大片影院一区二区 | 亚洲伊人久久综合 | 另类日本人xxxxbbbb | 久久精选视频 |