最全ambari2.7.3+hdp3.1.0 集群搭建及常见问题解决办法整理

本文详细介绍了如何在Ambari2.7.3环境下搭建HDP3.1.0大数据集群,包括虚拟机环境配置、主机名设置、SSH免密登录、操作系统环境准备、本地源制作、Ambari安装、集群配置、服务开启以及Hive和Spark2服务的添加和启动。过程中涉及多个步骤和常见问题解决,适合初学者和进阶者参考。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

ambari2.7.3+hdp3.1.0 集群搭建

一、基本环境设置

a、VMware14.0安装包

http://bigsoft.zdfans.wang/VMware_5928.zip

b、CentOS-7-x86_64-Minimal-1810.iso

http://mirrors.aliyun.com/centos/7/isos/x86_64/CentOS-7-x86_64-Minimal-1810.iso

c、win10下VMware安装CentOS7并配置⽹络教程

配置内核为4,磁盘空间为30G ,内存为2~4G都可以!

https://blog.csdn.net/zyq_2014/article/details/79692181

d、安装好主节点后打开修改主机名

hostname 主机名

vi /etc/hostname 修改主机名

hostnamectl set-hostname 主机名

e、关机,克隆。修改另外三个从节点的ip和主机名。

虚拟机访问地址

192.168.154.20

192.168.154.21

192.168.154.22

192.168.154.23

二、每个节点host设置

主机名最好符合规范,否则主机注册会出现问题。命名参考如下

图片

192.168.154.20 master1.xd.edu.cn

192.168.154.21 slave1.xd.edu.cn

192.168.154.22 slave2.xd.edu.cn

192.168.154.23 slave3.xd.edu.cn

补充:

修改主机名方法:

a、hostname 主机名

b、vi /etc/hostname 修改主机名

c、hostnamectl set-hostname 主机名

c、vi /etc/hosts 完成ip和域名的映射

三、操作系统环境准备

3.1 配置ssh免密登录

https://blog.csdn.net/l1394049664/article/details/82528372

a、在所有节点上创建目录并赋予权限

mkdir /root/.ssh

chmod 700 /root/.ssh

b、在主节点上生成公钥

cd ~

#进入用户目录

ssh-keygen -t rsa -P “”

#这是生成ssh密码的命令,-t 参数表示生成算法,有rsa和dsa两种;-P表示使用的密码,这里使用""空字符串表示无密码。

#回车后,会提示输入信息,我们直接回车即可。这样就在~/.ssh目录下生成了几个东西

cd ~/.ssh

cat id_rsa.pub >> authorized_keys

#这个命令将id_rsa.pub的内容追加到了authorized_keys的内容后面。

c、把公钥传送到需要免密钥登录的节点

scp authorized_keys slave1.xd.edu.cn:/root/.ssh/

scp authorized_keys slave2.xd.edu.cn:/root/.ssh/

scp authorized_keys slave3.xd.edu.cn:/root/.ssh/

**备注:**在传输的过程中需要去用到node2和node3的密码,不过只使用一次,以后再使用ssh node2或者ssh node3即不在需要密码,实现免密钥登录

3.2、开启ntp服务

所有节点上都需要执行以下操作

图片

图片

yum install ntp

systemctl is-enabled ntpd

systemctl enable ntpd

systemctl start ntpd

systemctl status ntpd

3.3 检查DNS,配置FQDN

所有节点都要检查,并配置FQDN(所有节点)

图片

配置FQDN,如下以主节点为例

图片

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=xd1.edu.cn

3.4 关闭防火墙

所有节点都要设置(以主节点为例)

图片

systemctl disable firewalld

systemctl stop firewalld

3.5 关闭SELinux

所有节点都要设置(以主节点为例)

查看SELinux的状态:

图片

修改配置文件为disabled需要重启机器:

图片

vi /etc/sysconfig/selinux

四、制作本地源

制作本地源只需要在主节点上进行即可

4.1相关工作准备

4.1.1 安装Apache HTTP服务器

安装HTTP服务器,允许http服务通过防火墙(永久)

     ![图片](https://uploader.shimo.im/f/AtL1PxZcs60HJB38.png!thumbnail)                                         

 添加Apache服务到系统层随系统自动启动

图片

systemctl start httpd.service

systemctl

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值