1.Hellowhadoop~~!Hadoop（某人兒子的一只虛擬大象的名字）是一個(gè)復(fù)雜到極致，又簡(jiǎn)單到極致的東西。說(shuō)它復(fù)雜，是因?yàn)橐粋€(gè)hadoop集群往往有幾十臺(tái)甚至成百上千臺(tái)lowcost的計(jì)算機(jī)組成，你運(yùn)行的每一個(gè)任務(wù)都要在這些計(jì)算機(jī)上做任務(wù)的分發(fā)，執(zhí)行中間數(shù)據(jù)排序以及最后的匯總，期間還包含節(jié)點(diǎn)發(fā)現(xiàn)，任務(wù)的重試，故障節(jié)點(diǎn)替換等等等等的維護(hù)以及異常情況處理。誰(shuí)叫hadoop集群往往都是由一些平民計(jì)算機(jī)組成，沒(méi)事兒罷個(gè)工什么的，實(shí)在是再尋常不過(guò)的事情。而
系統(tǒng) 2019-08-12 09:30:30 2473
【試驗(yàn)?zāi)康摹勘驹囼?yàn)?zāi)康氖菫榱丝偨Y(jié)hadoop相關(guān)參數(shù)優(yōu)化對(duì)性能的影響。【試驗(yàn)環(huán)境】硬件環(huán)境本次試驗(yàn)用機(jī)4臺(tái)，配置一致：CPU：Intel(R)Xeon(R)CPUE5620@2.40GHz*16內(nèi)存：MemTotal:32867608kB64bitlinux版本CentOSrelease6.2(Final)內(nèi)核版本2.6.32-220.el6.x86_64硬盤(pán)Model:IBMServeRAIDM5015(scsi)Disk/dev/sda:2997GBS
系統(tǒng) 2019-08-12 09:30:16 2468
本文發(fā)表于本人博客。前面幾次講了關(guān)于Hadoop的環(huán)境搭建、HDFS操作，今天接著繼續(xù)。本來(lái)Hadoop源碼中就有一個(gè)例子WordCount,但是今天我們來(lái)自己實(shí)現(xiàn)一個(gè)加深對(duì)這個(gè)Mapper、Reducer的理解，如有不對(duì)歡迎指正。我們先來(lái)梳理一下思路，對(duì)于自定義Mapper以及Reducer，我們先要覆蓋其map以及reduce函數(shù)，然后按照相關(guān)步驟比如設(shè)置輸入文件目錄、輸入文件格式化類、設(shè)置自定義Mapper、分區(qū)、排序、分組、規(guī)約、設(shè)置自定義Redu
系統(tǒng) 2019-08-12 09:27:04 2423
第一個(gè)Hadoop下的Wordcount程序這次的源碼是用的Hadoop實(shí)戰(zhàn)的源碼首先將源碼拷貝進(jìn)Linux下的工作目錄下，在/home/hadoop/workspace下。導(dǎo)入兩個(gè)測(cè)試文件echo"HelloWorldByeWorld"file01echo"HelloHadoopByeHadoop"file02創(chuàng)建一個(gè)Jar包目錄：mkdirFirstJar編譯Java文件至FirstJar下：javac-classpath/usr/hadoop/had
系統(tǒng) 2019-08-12 09:27:20 2385
一.hadoop2.0的目錄結(jié)構(gòu)如下圖所示二.bin目錄Hadoop最基本的管理腳本和使用腳本所在目錄，這些腳本是sbin目錄下管理腳本的基礎(chǔ)實(shí)現(xiàn)，用戶可以用這些腳本管理和使用hadoop三.etc目錄hadoop配置文件所在的目錄，包括core-site.xml、hdfs-site.xml、mapred-site.xml等從hadoop1.0繼承而來(lái)的配置文件和yarn-site.xml等hadoop2.0新增的文件。.template是模板文件四.in
系統(tǒng) 2019-08-12 09:30:36 2376
