首页 > 编程学习 > 第1关:Hadoop集群的部署,安装和管理

第1关:Hadoop集群的部署,安装和管理

发布时间:2022/11/7 23:30:25

我们准备了三台虚拟服务器,连接方式如下:

服务器SSH密码ip
masterssh 172.18.0.2123123172.18.0.2
slave1ssh 172.18.0.3123123172.18.0.3
slave2ssh 172.18.0.4123123172.18.0.4

第一步我们需要在 evassh 服务器初始化虚拟服务器:

cd /opt
wrapdocker
ulimit -f unlimited
docker load -i ubuntu16-ssh.tar
docker-compose up -d

注意:请不要在各个虚拟服务器之间进行 ssh 登录,这种操作会导致无法保存配置数据。正确方法是:在虚拟服务器里执行 exit 后回到 evassh 服务器,再按上述方法登录各虚拟服务器。

 

文件传输

通过 scp 命令将 evassh 上面的 Java 安装包与 Hadoop 安装包放入 master 服务器上的/opt 目录下。

scp /opt/jdk-8u141-linux-x64.tar.gz root@172.18.0.2:/opt
scp /opt/hadoop-3.1.0.tar.gz root@172.18.0.2:/opt

第一次连接,会询问是否继续连接。键盘输入 yes 并输入密码 123123 即可进行传输。

 

 

配置免密登录

在集群搭建过程中,我们会频繁的在各个服务器之间跳转,此过程是通过 SSH 去连接的,为了避免启动过程输入密码,我们可以配置免密登录。

1、分别在 master、slave1、slave2 生成密钥,命令如下:

在 master 服务器生成秘钥:

# 进入 master 服务器,键盘输入 yes 与 密码 123123
ssh 172.18.0.2
ssh-keygen -t rsa
# 执行命令之后,连着按三个回车键即可生成秘钥。

这里我们可以开启多个命令行窗口,可以大大减少各个服务器之间的跳转次数。

 

点击 + 号开启多个窗口,最多可以开启共 3 个命令行窗口。

在 salve1 服务器生成秘钥:

 
 进入 salve1 服务器,键盘输入 yes 与 密码 123123
ssh 172.18.0.3
ssh-keygen -t rsa

在 salve2 服务器生成秘钥:

 
# 进入 salve2 服务器,键盘输入 yes 与 密码 123123
ssh 172.18.0.4
ssh-keygen -t rsa

master、slave1和slave2直接已经做了映射,所以这里不需要再做映射。

2、 在 master 复制 master、slave1、slave2 的公钥。

cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
ssh slave1 cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
ssh slave2 cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys
密码为:123123
 

3、 在 slave1 复制 master 的 authorized_keys 文件。

ssh master cat ~/.ssh/authorized_keys>> ~/.ssh/authorized_keys

4、 在 slave2 复制 master 的 authorized_keys 文件。

ssh master cat ~/.ssh/authorized_keys>> ~/.ssh/authorized_keys

集群之间免密至此设置成功

集群安装 JavaJDK

在 master 服务器的 /opt 目录下有 evassh 服务器传过来的 Java 安装包与 Hadoop 安装包。解压 Java 安装包至/usr/local目录下。

tar -zxvf /opt/jdk-8u141-linux-x64.tar.gz -C /usr/local/

解压好JDK之后还需要在环境变量中配置JDK,才可以使用,接下来就来配置JDK。 输入命令:vim /etc/profile 编辑配置文件; 在文件末尾输入如下代码(不可以有空格):

export JAVA_HOME=/usr/local/jdk1.8.0_141
export PATH=$PATH:$JAVA_HOME/bin

然后,保存并退出。

最后:

source /etc/profile

使刚刚的配置生效。

输入:

java -version

出现如下界面代表配置成功。

 

将解压好的JDK与配置文件通过 scp 命令发送至 slave1、slave2 中。

 
#发送JDK
scp -r /usr/local/jdk1.8.0_141/ root@slave1:/usr/local/
scp -r /usr/local/jdk1.8.0_141/ root@slave2:/usr/local/
#发送配置文件
scp /etc/profile root@slave1:/etc/
scp /etc/profile root@slave2:/etc/

slave1 和 slave2 服务器上分别执行

source /etc/profile

使发送来的配置生效。

Hadoop 分布式集群搭建

解压并改名

解压Hadoop的压缩包到/usr/local目录下,并将解压好的文件夹改名为 hadoop

 
  1. tar -zxvf /opt/hadoop-3.1.0.tar.gz -C /usr/local/
    
    cd /usr/local
    
    mv hadoop-3.1.0/ hadoop

将Hadoop添加到环境变量中

vi /etc/profile
在文件末尾插入如下代码:
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
最后使修改生效:
source /etc/profile

创建文件夹

mkdir /var/hadoop
mkdir /var/hadoop/disk
mkdir /var/hadoop/logs
mkdir /var/hadoop/tmp
mkdir /var/hadoop/namenode
修改配置文件

进入 hadoop 配置文件夹中:

cd /usr/local/hadoop/etc/hadoop/
修改 core-site.xml文件 core-site.xml 是核心配置文件我们需要在该文件中加入HDFSURINameNode的临时文件夹位置,这个临时文件夹在下文中会创建。 在文件末尾的configuration标签中添加代码如下:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/var/hadoop/tmp</value>
</property>
</configuration>

修改 hdfs-site.xml文件 replication指的是副本数量,我们现在是3个节点,所以是3。属性名dfs.datanode.data.dir代表 datanode 上数据块的物理存储位置,属性名dfs.namenode.name.dir代表 namenode 上存储 hdfs 名字空间元数据

 
<configuration>
<property>
<name>dfs.datanode.data.dir</name>
<value>/var/hadoop/disk</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/var/hadoop/namenode</value>
</property>
<property>
<name>dfs.replication</name>
<value>3</value>
</property>
</configuration>

修改 yarn-site.xml文件

<configuration>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>

修改 mapred-site.xml文件

<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

修改 hadoop-env.sh文件 文件主要是配置JDK的位置,在文件中添加语句:


export JAVA_HOME=/usr/local/jdk1.8.0_141

修改 workers文件 hadoop-2.6 这个文件名为 slaves ,现在3.0版本为 workers。

master
slave1
slave2

 

因为root用户现在还不能启动hadoop,我们来设置一下就可以了。

/hadoop/sbin路径下:

cd /usr/local/hadoop/sbin

。 将

vi start-dfs.sh
vi stop-dfs.sh

两个文件顶部添加以下参数

#!/usr/bin/env bash
HDFS_DATANODE_USER=root
HADOOP_SECURE_DN_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root

还有,

vi start-yarn.sh
vi stop-yarn.sh

顶部也需添加以下:

#!/usr/bin/env bash
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root

格式

在使用Hadoop之前我们需要格式化一些hadoop的基本信息。 使用如下命令:

hadoop namenode -format

出现如下界面代表成功:

 

发送至另外两台服务器

scp -r /usr/local/hadoop/ root@slave1:/usr/local/
scp -r /usr/local/hadoop/ root@slave2:/usr/local/

启动Hadoop

接下来我们启动Hadoop

start-all.sh

使用 jps 查看 hadoop 进程是否启动成功。 master上:

Copyright © 2010-2022 dgrt.cn 版权所有 |关于我们| 联系方式