群起集群
單節點啟動,需要我們手動去每個機器啟動,過于繁瑣。
1、配置workers
1)配置/opt/module/hadoop-3.2.1/etc/hadoop下的workers文件(hadoop3.0以后slaves更名為workers)
在該文件中增加如下內容:
hadoop101
hadoop102
hadoop103
注意:該文件中添加的內容結尾不允許有空格,文件中不允許有空行。
2)同步所有節點配置文件
scp -r /opt/module/hadoop-3.2.1/etc/hadoop root@192.168.114.102:/opt/module/hadoop-3.2.1/etc
scp -r /opt/module/hadoop-3.2.1/etc/hadoop root@192.168.114.103:/opt/module/hadoop-3.2.1/etc
2、啟動集群
如果集群是第一次啟動,需要格式化NameNode(注意格式化之前,一定要先停止上次啟動的所有namenode和datanode進程,然后再刪除data和log數據)
hdfs namenode -format
啟動HDFS
start-dfs.sh
[root@hadoop101 ~]# jps
7506 DataNode
7386 NameNode
9418 Jps
[root@hadoop102 ~]# jps
9562 Jps
7439 DataNode
[root@hadoop102 ~]# jps
9562 Jps
7439 DataNode
[root@hadoop103 ~]# jps
7266 SecondaryNameNode
10920 Jps
8428 DataNode
啟動YARN
[root@hadoop102 ~]# start-yarn.sh
注意:NameNode和ResourceManger如果不是同一臺機器,不能在NameNode上啟動 YARN,應該在ResouceManager所在的機器上啟動YARN。
Web端查看
1)HDFS文件系統
4)JobHistory
啟動JobHistory
[root@hadoop101 ~]# mr-jobhistory-daemon.sh start historyserver
WARNING: Use of this script to start the MR JobHistory daemon is deprecated.
WARNING: Attempting to execute replacement "mapred --daemon start" instead.
[root@hadoop101 ~]# jps
7506 DataNode
9686 JobHistoryServer
9497 NodeManager
9705 Jps
7386 NameNode
?
?