1.环境搭建概述
Flink在日常工作时一般使用2种部署方式,stand-alone模式或者是on yarn 模式,stand-alone模式的话部署比较简单,on-yarn模式需要部署hadoop集群。我们可以看下flink的架构图如下:
- jobmanager 负责任务调度,checkpoint
- taskmanager 负责任务的执行
- client 负责任务的提交
2.stand-alone模式
我们直接部署一个HA模式的stand-alone集群,一步到位。
前提准备三台服务器dn1,dn2,dn3(host地址)
- 安装jdk8+
- 配置好 ssh 免密
- 安装好zookeeper并启动
2.1配置
在https://flink.apache.org/downloads.html下载自己所需要部署的安装包,上传到dn1并解压
tar -zxvf flink-1.6.3-bin-hadoop27-scala_2.11.tgz -C /www
配置
配置jobmanager两台
vim /www/flink-1.6.3/conf/master
dn1:8081
dn2:8081
配置taskmanager三台
vim /www/flink-1.6.3/conf/slaves
dn1
dn2
dn3
<