vr技术在网站建设的应用,工程设计公司加盟,wordpress 导航站模板下载,seo网络推广公司1. kafka的整体框架 首先kafka启动以后所有的broker都会向zookeeper进行注册#xff0c;在/brokers/ids中以列表的形式展示所有的节点#xff0c;在/controller节点中使用独享锁实现broker的选举#xff0c;其中一个机器为主节点。其他的为从节点#xff0c;选举的根本原则…1. kafka的整体框架 首先kafka启动以后所有的broker都会向zookeeper进行注册在/brokers/ids中以列表的形式展示所有的节点在/controller节点中使用独享锁实现broker的选举其中一个机器为主节点。其他的为从节点选举的根本原则就是谁先来的谁就是主节点 broker0现在是controller节点他会监听所有的broker节点的动态变化然后选举出来所有的topic的分区的主从这个选举完毕以后所有的操作都会指向主分区不管是生产数据还是消费数据都是主分区在管理从分区只是同步数据的。 broker0选举完毕以后将数据上传到zookeeper中记录在/broker/topics这个目录中具体的topic信息都会被其他的broker节点进行同步过去多个broker都会识别选举出来的主从分区信息
其中在zookeeper中的ISR它是数据的传递优先级别顺序如上图中数据的传输应该先到leader节点所在的机器4上面然后数据在同步到其他的从分区中从而所有的分区数据都同步完毕保持一致
ISR即副本集。 数据生产和传输都会走主节点topic正常对外提供服务
2. kafka的基本数据结构 kafka中的数据存储分为两个部分分别是k-v两个部分并且存储的数据都是二进制的我们在存储数据的时候要转换为二进制存储使用的时候读出来也是二进制的我们需要人为转换成自己想要的数据类型才能使用这个和hbase的存储及其相似但是其中的k一般我们都不会做任何操作只放入value的值
注意虽然数据分为k-v两个部分但是不要把它当成map集合相同的key的数据value不会被去重掉
