虚拟机搭建hadoop

本文详细介绍了如何在CentOS虚拟机上进行系统分区和网络配置,然后逐步讲解了如何卸载自带的JDK并安装新的JDK,以及配置系统环境变量。接着,文章阐述了Hadoop的下载、解压和环境变量配置过程,为初学者提供了清晰的操作步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

虚拟机搭建hadoop



一、搭建centos虚拟机,

1.分区等设置

下载镜像导入 ,分区:
硬件:内存2G,硬盘50G
分区:/boot 挂载1g
/swap 挂载4G (内存不够可采用磁盘当内存使用)
/挂载45G

2.网络ip设置

(1)虚拟网络编辑器设置:选择vmnet8 子网ip设置网段修改为任意网段 例如10
在这里插入图片描述

nat设置:原则同网段就想
在这里插入图片描述

(2)本地机设置:vmnet8 ipv4属性
在这里插入图片描述
(3)虚拟机centos系统设置:

vim /etc/sysconfig/network-scripts/ifcfg-ens33

如下:
在这里插入图片描述
最后重启一下虚拟机。。
ping一下外网和内网,查看是否能通信,通信就搞定
设置一下host
vim /etc/hosts
在这里插入图片描述

安装一下软件工具包
yum install -y epel-release
关闭防火墙
systemctl stop firewalld
禁止防火墙开机自启
systemctl disable firewalld.service

番外:linux的权限设置 /etc/sudoers
在这里插入图片描述
cd /opt/
sudo rm -rf rh
sudo mkdir module
sudo mkdir software
sudo chown howey:howey module/ software/

二、安装jdk

1.卸载自带的jdk

rpm -qa |grep -i java |xargs -n1 rpm -e --nodeps
rpm -qa:查询所安装的所有rpm软件包
grep -i :忽略大小写
xargs -n1 :表示每次只传递一个参数
rpm -e -nodeps :强制卸载软件

2.下载jdk for linux sftp

上传到目录/opt/software/
解压安装
tar -zxvf jdk-8u331-linux-x64.tar.gz -C /opt/module/

3 配置系统变量

sudo vim /etc/profile.d/my_env.sh
在这里插入图片描述
重新加载资源
source /etc/profile
java -version

二、安装hadoop

1.下载hadoop

上传到目录/opt/software/

2.解压安装

tar -zxvf hadoop-3.3.1.tar.gz -C /opt/module/

3 配置系统环境变量

在这里插入图片描述
重新加载资源
source /etc/profile
hadoop version

虚拟机搭建 Hadoop 集群可以通过使用虚拟化软件如 VMware 或 VirtualBox 来实现。以下是一个简单的步骤: 1. 首先,下载并安装虚拟化软件,如 VMware 或 VirtualBox。 2. 下载 Hadoop 的稳定版本,并解压缩到一个目录中。 3. 创建一个虚拟机,并为每个节点分配足够的资源(如 CPU、内存和存储)。 4. 安装操作系统,推荐使用 Linux 发行版,如 Ubuntu 或 CentOS。确保在每个节点上都安装了相同的操作系统版本。 5. 配置网络设置,确保虚拟机之间可以相互通信。可以选择使用 NAT、桥接模式或者创建一个内部网络。 6. 在每个节点上安装 Java 运行环境,Hadoop 是基于 Java 开发的。 7. 配置 Hadoop 环境变量,将 Hadoop 的 bin 目录添加到 PATH 环境变量中。 8. 编辑 Hadoop 的配置文件,主要包括 core-site.xml、hdfs-site.xml 和 mapred-site.xml。配置文件中需要指定各个节点的 IP 地址和端口号。 9. 启动 Hadoop 的各个组件,包括 NameNode、DataNode、ResourceManager、NodeManager 和 JobHistoryServer。 10. 在浏览器中访问 Hadoop 的管理界面,确认集群是否正常运行。 以上是一个简单的搭建 Hadoop 集群的步骤,实际操作中可能还需要进行一些额外的配置和调整。请注意,这只是一个基础的搭建过程,具体的步骤可能会因个人环境和需求而有所不同。如果遇到问题,可以参考 Hadoop 的官方文档或者在相关的社区寻求帮助。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值