大佬教程收集整理的这篇文章主要介绍了HADOOP 网络搭建设置,大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。
如果只修改 network 文件,下次重启虚拟机时,会发现修改后的名字又回到原来的 localhost 去了。原来上面只修改了瞬态(Transient)主机名,并没有修改静态(Static)主机名。因此,仍然要进行修改,这一次输入
命令在编辑器中输入如下代码:MJ1,保存并退出,回到终端主窗口。
请重复上述操作方法,将其他虚拟机的主机名也从缺省的 localhost 修改为对应的 slave0 和 slave1。
一,集群机器时间同步
二,配置IP主机名映射
三,复制虚拟机注意虚拟机ip地址
我们要安装标准的jdk,如果不是标准的jdk,比如openJDK要卸载。
①使用javac命令,不会出现command not found错误 ②、使用java -version,出现版本为Java version "1.8.0_131" ③、echo $PATH,看看自己刚刚设置的的环境变量配置是否都正确
修改”/opt/hadoop/hadoop/etc/hadoop/hadoop-env.sh”文件,找到“export JAVA_HOME”这行,配置jdk路径。如图
export JAVA_HOME=/usr/local/java/jdk1.8.0_162/
配置Hadoop 的核心组件文件是 core-site.xml
添加这个临时文件保存目录 首先你得创建这个目录
<property> <name>fs.defaultFS</name> <value>hdfs://MJ1:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/opt/hadoop/hadooPDAta</value> </property>
配置Hadoop 的文件系统配置文件是 hdfs-site.xml
这里可以配置主机网站端口可以通过浏览器来访问web监控页面
上传和下载文件端口是9000
<property> <name>dfs.Replication</name> <value>1</value> </property>
配置slaves(配置masters)
拷贝 到 MJ2 MJ3
scp -r hadoop-2.7.6/ [email protected]:/usr/local/
配置hadoop环境变量
export HADOOP_HOME=/usr/local/hadoop-2.7.6 export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
然后把hadoop环境变量传给其余几台
scp /etc/profile [email protected]:/etc/
重新启动环境变量
source /etc/profile
格式化你的主机不能在奴隶机上用
hdfs namenode -format
启动hdfs
start -dfs.sh
到这里已经装好HDFS了可以输入网址查看 http://192.168.20.20:50070
下面装yarn
重命名为mapred-site.xml.template
<property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.resourcemanager.address</name> <value>MJ1:18040</value> </property> <property> <name>yarn.resourcemanager.scheduler.address</name> <value>MJ1:18030</value> </property> <property> <name>yarn.resourcemanager.resource-tracker.address</name> <value>MJ1:18025</value> </property> <property> <name>yarn.resourcemanager.admin.address</name> <value>MJ1:18141</value> </property> <property> <name>yarn.resourcemanager.webapp.address</name> <value>MJ:18088</value> </property>
指定mr运行在yarn上,默认是local,本地模仿@L_675_47@资源环境
启动yarn resourceManage:http://192.168.247.11:8088 (Yarn管理界面)查看
以上是大佬教程为你收集整理的HADOOP 网络搭建设置全部内容,希望文章能够帮你解决HADOOP 网络搭建设置所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。