小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

CentOS 6.5 配置hadoop 2.6.0偽分布式

 關(guān)平藏書 2017-04-27

  操作系統(tǒng):CentOS 6.5    32位

Java環(huán)境:jdk 1.7.0_71 

hadoop下載地址:http://apache./hadoop/common/stable/hadoop-2.6.0.tar.gz

1.創(chuàng)建用戶組和用戶

使用su命令切換用戶為root

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. groupadd hadoop  
  2. useradd hadoop hadoop  
  3. passwd  hadoop  #為用戶添加密碼   可以不設(shè)置密碼  

 

2.安裝ssh

[plain] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. rpm -qa |grep ssh  #檢查是否裝了SSH包  
  2. yum install openssh-server  # 安裝ssh  
  3. chkconfig --list sshd #檢查SSHD是否設(shè)置為開機(jī)啟動(dòng)  
  4. chkconfig --level 2345 sshd on  #如果沒(méi)設(shè)置啟動(dòng)就設(shè)置下.  
  5. service sshd restart  #重新啟動(dòng)  

3.配置ssh無(wú)密碼登錄

切換至hadoop用戶

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. su hadoop  
生成密鑰

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. ssh-keygen -t rsa -P ""  
執(zhí)行后會(huì)在.ssh目錄下生成id_rsa和id_rsa.pub兩個(gè)文件

 

進(jìn)入.ssh目錄,并將id_rsa.pub追加到authorized_keys文件中

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. cd ./.ssh  
  2. cat id_rsa.pub >> authorized_keys   
  3. chmod 600 authorized_keys # 修改用戶權(quán)限  

 

測(cè)試是否可以登錄

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. ssh localhost  # 執(zhí)行后會(huì)提示輸入 yes or no. 輸入yes后 如果提示為最后一次登錄時(shí)間 則表明成功。  
4.安裝hadoop

 

將下載的hadoop解壓并移動(dòng)到期望的安裝目錄,修改其訪問(wèn)權(quán)限

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. tar -xvf hadoop-2.6.0.tar.gz  
  2. mv hadoop-2.6.0 /usr/opt/hadoop  
  3. chmod -R 775 /usr/opt/hadoop  
  4. chown -R hadoop:hadoop /usr/opt/hadoop  
配置hadoop 的環(huán)境變量(所有的環(huán)境變量都是必須的)

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. su  
  2. vim /etc/profile  
  3. export HADOOP_INSTALL=/usr/opt/hadoop  
  4. export PATH=${HADOOP_INSTALL}/bin:${HADOOP_INSTALL}/sbin${PATH}  
  5. export HADOOP_MAPRED_HOME=${HADOOP_INSTALL}  
  6. export HADOOP_COMMON_HOME=${HADOOP_INSTALL}  
  7. export HADOOP_HDFS_HOME=${HADOOP_INSTALL}  
  8. export YARN_HOME=${HADOOP_INSTALLL}  
  9. export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_INSTALL}/lib/natvie    
  10. export HADOOP_OPTS="-Djava.library.path=${HADOOP_INSTALL}/lib:${HADOOP_INSTALL}/lib/native"  
設(shè)置hadoop-env.sh中的java環(huán)境變量

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. cd /usr/opt/hadoop  
  2. vim ./etc/hadoop/hadoop-env.sh   
[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. export JAVA_HOME= {你的java環(huán)境變量}  

 

5.配置偽分布式

hadoop的配置文件主要有core-site.xml  、 hdfs-site.xml 、 yarn-site.xml 三個(gè)文件。

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. cd /usr/opt/hadoop/etc/hadoop  

 

core-site.xml

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. <configuration>  
  2.     <property>  
  3.         <name>hadoop.tmp.dir</name>  
  4.         <value>/usr/opt/hadoop/tmp</value>  <!--一定要配置  系統(tǒng)默認(rèn)的緩存文件夾在每次重啟后會(huì)被刪除-->  
  5.     </property>  
  6.     <property>  
  7.         <name>fs.defaultFS</name>  
  8.         <value>hdfs://localhost:9000</value>  
  9.     </property>  
  10. </configuration>  

hdfs.site.xml

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. <configuration>    
  2. <property>    
  3.         <name>dfs.replication</name>    
  4.         <value>1</value>    
  5.     </property>    
  6.     <property>    
  7.         <name>dfs.namenode.name.dir</name>    
  8.         <value>file:/usr/opt/hadoop/dfs/name</value>    
  9.     </property>    
  10.     <property>    
  11.         <name>dfs.datanode.data.dir</name>    
  12.         <value>file:/usr/opt/hadoop/dfs/data</value>    
  13.     </property>    
  14.     <property>                 <!--這個(gè)屬性節(jié)點(diǎn)是為了防止后面eclipse存在拒絕讀寫設(shè)置的 -->   
  15.             <name>dfs.permissions</name>    
  16.             <value>false</value>    
  17.      </property>    
  18.  </configuration>    

yarn-site.xml

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. <configuration>  
  2. <property>  
  3. <name>mapreduce.framework.name</name>  
  4. <value>yarn</value>  
  5. </property>  
  6.   
  7. <property>  
  8. <name>yarn.nodemanager.aux-services</name>  
  9. <value>mapreduce_shuffle</value>  
  10. </property>  
  11. </configuration>  

接下來(lái)創(chuàng)建需要的文件夾

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. cd /usr/local/hadoop  
  2. mkdir tmp dfs dfs/name dfs/data  

 

 

到目前為止所有的配置都已經(jīng)完成。

 

6.運(yùn)行

首先格式化文件系統(tǒng)

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. .bin/hdfs namenode -format   
啟動(dòng)

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. ./sbin/start-dfs.sh  
  2. ./sbin/start-yarn.sh  

提示如下則表明成功了。

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. Starting namenodes on [localhost]  
  2. localhost: starting namenode, logging to /usr/opt/hadoop-2.6.0/logs/hadoop-hadoop-namenode-.out  
  3. localhost: starting datanode, logging to /usr/opt/hadoop-2.6.0/logs/hadoop-hadoop-datanode-.out  
  4. Starting secondary namenodes [0.0.0.0]  
  5. 0.0.0.0: starting secondarynamenode, logging to /usr/opt/hadoop-2.6.0/logs/hadoop-hadoop-secondarynamenode-.out  
輸入網(wǎng)址127.0.0.1:50070就可以看見hadoop的網(wǎng)頁(yè)了。

 

PS :如果出現(xiàn)警告提示:

 

 

[html] view plaincopyprint?在CODE上查看代碼片派生到我的代碼片
  1. Unable to load native-hadoop library for your platform  
也可以看到那個(gè)網(wǎng)頁(yè),但hadoop并沒(méi)有完全裝好。

 

出現(xiàn)這個(gè)問(wèn)題有兩種情況:

一、沒(méi)有設(shè)置HADOOP_OPTS這個(gè)環(huán)境變量

二、是操作系統(tǒng)與hadoop.so文件不兼容導(dǎo)致的。

hadoop 2.5以后的release版本都是64位編譯的,如果自己的電腦是32位的就出現(xiàn)不兼容的情況。這時(shí)需要重新編譯hadoop源碼(編譯hadoop源碼時(shí),不要使用jdk1.8.0,使用1.6和1.7就可以了,不然會(huì)報(bào)這個(gè)錯(cuò)誤[ERROR] Failed to execute goal org.apache.maven.plugins:maven-javadoc-plugin:2.8.1:jar (module-javadocs) on project hadoop-annotations: MavenReportException: Error while creating archive ):

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多