
Kafka
文章平均质量分 86
学习·笔记
一个专属于自己的隐秘地方,在那里我们可以远离压力与忧虑,可以放松自我
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Kafka知识点总结
Kafka知识点总结1、Kafka生态系统四大角色,生产者(Producer)、kafka集群(Broker)、消费者(Consumer)、zookeeper2、每个消费者都必须属于一个消费组,一个组内的消费者可以多个。3、一个Topic可以有1到多个多个分区(Partition)4、一个分区可以有1到多个segment。5、每个segment可以有由一个log和一个index组成。...原创 2020-03-31 21:09:20 · 5033 阅读 · 0 评论 -
Kafka的监控以及运维与Kafka-eagle的安装及安装出现的问题
监控以及运维在开发工作中,消费在Kafka集群中消息,数据变化是我们关注的问题,当业务前提不复杂时,我们可以使用Kafka 命令提供带有Zookeeper客户端工具的工具,可以轻松完成我们的工作。随着业务的复杂性,增加Group和 Topic,那么我们使用Kafka提供命令工具,已经感到无能为力,那么Kafka监控系统目前尤为重要,我们需要观察 消费者应用的细节。kafka-eagle概述为...原创 2020-03-31 21:02:05 · 5292 阅读 · 0 评论 -
Kafka:Log存储机制
Log存储机制kafka中log日志目录及组成kafka在我们指定的log.dir目录下,会创建一些文件夹;名字是【主题名字-分区名】所组成的文件夹。 在【主题名字-分区名】的目录下,会有两个文件存在,如下所示:#索引文件00000000000000000000.index#日志内容0000000000000000000.log在目录下的文件,会根据log日志的大小进行切分,...原创 2020-03-31 20:53:59 · 5032 阅读 · 0 评论 -
Kafka:实时计算-实时生产-实时传递-实时存储-实时展现
第一步:创建两个Topic命令:bin/kafka-topics.sh --create --zookeeper node01:2181,node02:2181,node03:2181 --replication-factor 2 --partitions 3 --topic student--------------------------------------------------...原创 2020-03-31 20:47:46 · 4939 阅读 · 0 评论 -
KafkaJavaApi操作:练习题
练习题(一):题目:在kafka集群中创建student主题 副本为2个,分区为3个生产者设置:设置key的序列化为 org.apache.kafka.common.serialization. StringSerializer设置value的序列化为org.apache.kafka.common.serialization.StringSerializer其他都是默认设置消费者设...原创 2020-03-31 20:40:58 · 4791 阅读 · 0 评论 -
KakfaJavaApi操作:Consumer
Producer代码//程序的入口 public static void main(String[] args){ //1、配置kafka集群 Properties props = new Properties(); //kafka服务器地址 props.put("bootstrap.servers", "node0...原创 2020-03-31 20:29:52 · 4704 阅读 · 0 评论 -
KafkaJavaApi操作案例:Kafka数据分区
案例一: 当没有指定分区号和key时使用轮训(轮训分区)策略存储数据Producer生产者代码:public class Producer { //程序的入口 public static void main(String[] args){ //1、配置kafka集群 Properties props = new Properties(); ...原创 2020-03-31 20:20:51 · 4617 阅读 · 0 评论 -
kafka的JavaAPI操作
Pom.xml创建maven工程并添加以下依赖jar包的坐标到pom.xml:<dependencies><!-- https://mvnrepository.com/artifact/org.apache.kafka/kafka-clients --><dependency> <groupId>org.apache.kafka<...原创 2020-03-31 20:11:27 · 4837 阅读 · 0 评论 -
Kafka集群操作
Kafka集群操作创建topic创建一个名字为test的主题, 有三个分区,有两个副本node01执行以下命令来创建topic:cd /export/servers/kafka_2.11-1.0.0bin/kafka-topics.sh --create --zookeeper node01:2181,node02:2181,node03:2181 --replication-fact...原创 2020-03-18 14:40:33 · 4766 阅读 · 0 评论 -
kafka集群环境搭建
kafka集群环境搭建Kafka安装包下载:方式一:通过提取码下载链接:https://pan.baidu.com/s/1IVhz-h04lGcFtEcLBWTU7w提取码:lru9方式二:初始化环境准备安装jdk,安装zookeeper并保证zk服务正常启动zookeeper的安装部署上传解压安装包node01执行以下命令,下载并解压:cd /export/softwar...原创 2020-03-18 14:35:00 · 4693 阅读 · 0 评论 -
Kafka的详细介绍
消息队列的介绍消息(Message):是指在应用之间传送的数据,消息可以非常简单,比如只包含文本字符串,也可以更复杂,可能包含嵌入对象。–点与点之间,点与多点之间传递的数据,传递的信息。 消息队列(Message Queue):是一种应用间的通信方式,消息发送后可以立即返回,由消息系统来确保信息的可靠专递,消息发布者只管把消息发布到MQ中而不管谁来取,消息使用者只管从MQ中取消息而不管谁发布...原创 2020-03-18 14:25:00 · 4802 阅读 · 0 评论