- Hadoop大数据技术开发实战
- 张伟洋
- 2024字
- 2021-03-26 09:17:20
2.1 系统环境配置
本节讲解在安装软件及搭建集群之前对CentOS 7系统环境的一些配置操作。
2.1.1 新建用户
本书中使用1.3节安装操作系统时新建的hadoop用户进行后续的操作,读者若想使用其他用户,可按照下面的步骤新建用户。
例如,新建用户tom:
(1)使用“su -”命令切换为root用户,然后执行以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4265.jpg?sign=1739356077-SubAhBE7svuErIpS1Qz6SbQvH3oX043T-0-e348cc3686c4d239c596e42636fcefa6)
(2)执行以下命令,设置用户tom的密码:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4272.jpg?sign=1739356077-q9ZGTEtm8vksRxl70NL9D9g0Q47FU16u-0-7ed38acdb6b6d93eaa760d67f4aacd0e)
到此,用户tom新建成功。
2.1.2 修改用户权限
为了使普通用户可以使用root权限执行相关命令(例如,系统文件的修改等),而不需要切换到root用户,可以在命令前面加入指令sudo。文件/etc/sudoers中设置了可执行sudo指令的用户,因此需要修改该文件,添加相关用户。
例如,使hadoop用户可以执行sudo指令,操作步骤如下:
使用“su -”命令切换为root用户,然后执行以下命令,修改文件sudoers:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4281.jpg?sign=1739356077-C1ybNchN8j1s8zjo2FTm2Z6qLZnGumPv-0-ca796bdfd45187830ac528b748e5d256)
在文本root ALL=(ALL) ALL的下方加入以下代码,使hadoop用户可以使用sudo指令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4288.jpg?sign=1739356077-9gb9atLXGyZmkGXxmR8B5B9KlIPSBb6N-0-b08b88ffb1c27749eee235d9dddf0f33)
执行sudo指令对系统文件进行修改时需要验证当前用户的密码,默认5分钟后密码过期,下次使用sudo需要重新输入密码。如果不想输入密码,则把上方的代码换成以下内容即可:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4295.jpg?sign=1739356077-8Rv0IVAfb1ygKOGRmOzPx9lBJIf1PaID-0-8b623fe0ac3ef85c1317a67956ff37ee)
执行exit命令回到hadoop用户,此时使用root权限的命令只需要在命令前面加入sudo即可,无须输入密码。例如,以下命令:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P30_4302.jpg?sign=1739356077-JJ9v4BTNvIJPhyrM5EfUdQLorBZT4yKa-0-cb5bb967e596bd49b32a5261000b2066)
注意
安装操作系统时创建的管理员用户hadoop,默认可以执行sudo指令,但需要验证hadoop用户的密码。可对其按照上面的步骤配置无须密码使用sudo指令。
2.1.3 关闭防火墙
集群通常都是内网搭建的,如果内网开启防火墙,内网集群通信则会受到防火墙的干扰,因此需要关闭集群中所有节点的防火墙。
执行以下命令关闭防火墙:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4355.jpg?sign=1739356077-fMI2AMf2jlABp8ZjCLjQn0byitRmoz7C-0-163cf80320c85fb7706cebaa82ba7bba)
然后执行以下命令,禁止防火墙开机启动:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4362.jpg?sign=1739356077-SPFIOuwQ4gAGITpUXFNfWiCmNQE6NNK4-0-dcb1bebb463ec7260b0fabfeeeff3bd5)
若需要查看防火墙是否已经关闭,可以执行以下命令,查看防火墙的状态:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4369.jpg?sign=1739356077-uT66wb2pRoEgEXhTeCGdRZpsFYSX1ki9-0-5f28091df68270f3e0c19265e59cd362)
此外,开启防火墙的命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4376.jpg?sign=1739356077-O1ZRzlHJeMuXLeWFYo53FvFgIeUC4Y9n-0-98968c1633e66a151a7d4d4c14ce60eb)
2.1.4 设置固定IP
为了避免后续启动操作系统后,IP地址改变了,导致集群间通信失败,节点间无法正常访问,需要将操作系统的IP状态设置为固定IP,具体操作步骤如下。
1. 查看VMware网关IP
单击VMware菜单栏中的【编辑】/【虚拟网络编辑器】,在弹出的【虚拟网络编辑器】窗口的上方表格中选择最后一行,即外部连接为【NAT模式】,然后单击下方的【NAT设置】按钮,如图2-1所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P31_4381.jpg?sign=1739356077-13a2KAzHaVzy1R6MV4gDeDQ3bvZ4fzat-0-3edfc7eef8ec6a3b3eb9cf2da83bd0e6)
图2-1 选择外部NAT模式
在弹出的【NAT设置】窗口中,查看VMware分配的【网关IP】。可以看到,本例中的网关IP为192.168.170.2(网段为170),如图2-2所示。
需要注意的是,后续给VMware中的操作系统设置IP时,网关IP应与图2-2中的网关IP保持一致。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4397.jpg?sign=1739356077-0LfoxDite6cFifsM74eQPqysKPCZO5k1-0-d8b0f7f190acac901540d59e82e9f536)
图2-2 查看VMware网关IP
2. 配置系统IP
CentOS 7系统IP的配置方法有两种:桌面配置方式和命令行配置方式,下面分别进行讲解。
(1)桌面配置方式。
单击系统桌面右上角的倒三角按钮,在弹出的窗口中单击【有线设置】,如图2-3所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P32_4401.jpg?sign=1739356077-reyMRUFgri7mXtmMebMj1dEzwRJIRtZx-0-6742aed188abea51b0d29b41e54496f5)
图2-3 系统有线网络设置
在弹出的窗口中单击下方的【添加配置】按钮,如图2-4所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4417.jpg?sign=1739356077-WVpzACCl5M1AGvDMLj4paZt6gA92nop7-0-971e63a2da82f142dc3421df6509bb70)
图2-4 添加网络配置
在弹出的【网络配置】窗口中,左侧选择【IPv4】,右侧的【地址】选择【手动】,如图2-5所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P33_4428.jpg?sign=1739356077-Ea1WGRekj9TAprfRRwRRmcfhA3ZexZf8-0-588eb2d76a1b7f21922976f66d00969f)
图2-5 网络连接信息配置界面
接着输入IP地址、网络掩码、网关和DNS服务器信息。IP地址可以自定义,范围在1~254之间,IP地址的网段应与网关一致,此处将IP地址设置为192.168.170.133。输入完毕后单击【添加】按钮,如图2-6所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4442.jpg?sign=1739356077-JMal5mxnGU1BkD0DgrStqM1O7ELprBIb-0-4cb287df3af7fb69d503a7c6b6305e72)
图2-6 填写网络配置信息
(2)命令行配置方式。
在系统终端命令行窗口执行以下命令,修改文件ifcfg-ens33:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4457.jpg?sign=1739356077-jOzKJHFCJqPaKqcfVo4XketHunzTQIuC-0-f6a296f29aa5a6f004c9d963794d4fac)
完整修改后的内容如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P34_4464.jpg?sign=1739356077-dJ9vCtJnYHd2RgiWUqMGxnvWp7DiWZMP-0-eec39232b264664622d219b642bc6f68)
上述内容中,实线框标注的是修改的内容,虚线框标注的是添加的内容。
需要修改的属性及解析如下:
- BOOTPROTO:值static表示静态IP(固定IP),默认值是dhcp,表示动态IP。
- ONBOOT:yes表示开机启用本配置。
需要添加的属性及解析如下:
- IPADDR:IP地址。
- NETMASK:子网掩码。
- GATEWAY:默认网关。虚拟机安装的话,通常是2,即VMnet8的网关设置。
- DNS1:DNS 配置。虚拟机安装的话,与网关一致。若需要连接外网,需要配置DNS。
- DNS2:网络运营商公众DNS,此处也可省略。
修改完成后执行以下命令,重启网络服务,使修改生效:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4619.jpg?sign=1739356077-n86sv5F9kpgyIJbEgWX7itq2kOycC36x-0-3e2ca1540f13060dd614346bdaf0f116)
重启完成后,可以通过ifconfig命令或者以下命令,查看改动后的IP:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4626.jpg?sign=1739356077-mtK6oytgP0RRQJUWF4dN60KRymLa7X89-0-21e7cfa9f01fd2f2f7b1fe99be7f89df)
在输出的信息中,若网卡ens33对应的IP地址已显示为设置的地址,说明IP修改成功,如图2-7所示。
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4629.jpg?sign=1739356077-1jooImqnQTMPGQr8pnGMfdB7ukgxT6rZ-0-36055ba4bdcf9dd48a04b0245a266550)
图2-7 查看系统IP地址
3. 测试本地访问
在本地Windows系统打开cmd命令行窗口,使用ping命令访问虚拟机中操作系统的IP地址,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P35_4643.jpg?sign=1739356077-ZiBZHaxNnRBtCC0a0SgOZFZLqNPAjTiT-0-b2dcb159ef21009edb2f294bf6d969a7)
若能成功返回数据,说明从本地Windows可以成功访问虚拟机中的操作系统,便于后续从本地系统进行远程操作。
2.1.5 修改主机名
在分布式集群中,主机名用于区分不同的节点,方便节点之间相互访问,因此需要修改主机的主机名。
具体操作步骤如下:
(1)使用hadoop用户登录系统,进入系统的终端命令行,输入以下命令,查看主机名:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4667.jpg?sign=1739356077-nYTlhhAaz9EQsIjCuMfphG0qk691S2KS-0-692162a5d9fd53f9cd319f7acc3e8f8c)
从输出信息中可以看到,当前主机的默认主机名为localhost.localdomain。
(2)执行以下命令,设置主机名为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4680.jpg?sign=1739356077-3DvivNN1N2nI5qszarORZNw6GtuunBrU-0-2e3fb1800699e909e57d3e2326345562)
此时系统的主机名已修改为centos01,但是重启系统后修改将失效,要想永久改变主机名,需要修改/etc/hostname文件。
执行以下命令,修改hostname文件,将其中的默认主机名改为centos01:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4687.jpg?sign=1739356077-8PR3wyY3FO2X0oaI2WLhsyYma71RIrI8-0-efefe32ea5181fff61c6524713570abb)
(3)执行reboot命令,重启系统使修改生效。
需要注意的是,修改主机名后需要重启操作系统才能生效。
2.1.6 新建资源目录
在目录/opt下创建两个文件夹softwares和modules,分别用于存放软件安装包和软件安装后的程序文件,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4696.jpg?sign=1739356077-11jgb4eLL6Fup9h6AbcWvimZCPvxFPAb-0-e3803ebe05ec989f62ad6a5b07449470)
将目录/opt及其子目录中所有文件的所有者和组更改为用户hadoop和组hadoop,命令如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4709.jpg?sign=1739356077-8MWbDjKsdhYuyDGTnf6sUVVMYxDQsyoD-0-59c74ea24e867a81e4e65cada7bc7174)
查看目录权限是否修改成功,命令及输出信息如下:
![](https://epubservercos.yuewen.com/B7D09D/15825993105224906/epubprivate/OEBPS/Images/Figure-P36_4716.jpg?sign=1739356077-p3n9ILAiv7RD8zKuWInhFSfUvFvCGpLW-0-34270c7bab271f0f2333a626ec4537f9)