三、Flink入门--环境搭建部署

本文介绍了Flink的两种部署方式:stand-alone模式和on YARN模式。stand-alone模式中,重点讲述了HA模式集群的配置和启动,包括准备服务器、安装JDK和Zookeeper,配置并分发Flink安装包。on YARN模式下,提到了需先搭建Hadoop集群,然后启动YARN session,并展示了通过命令提交Flink任务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.环境搭建概述

Flink在日常工作时一般使用2种部署方式,stand-alone模式或者是on yarn 模式,stand-alone模式的话部署比较简单,on-yarn模式需要部署hadoop集群。我们可以看下flink的架构图如下:
在这里插入图片描述

  • jobmanager 负责任务调度,checkpoint
  • taskmanager 负责任务的执行
  • client 负责任务的提交

2.stand-alone模式

我们直接部署一个HA模式的stand-alone集群,一步到位。
前提准备三台服务器dn1,dn2,dn3(host地址)

  • 安装jdk8+
  • 配置好 ssh 免密
  • 安装好zookeeper并启动
2.1配置

在https://flink.apache.org/downloads.html下载自己所需要部署的安装包,上传到dn1并解压

tar -zxvf flink-1.6.3-bin-hadoop27-scala_2.11.tgz -C /www
配置

配置jobmanager两台

vim /www/flink-1.6.3/conf/master
dn1:8081
dn2:8081

配置taskmanager三台

vim /www/flink-1.6.3/conf/slaves
dn1
dn2
dn3
<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值