Kafka的四个基础概念学习
kafka 创建背景
kafka是一个消息系统，原本开发自 linkedin，用作 linkedin 的活动流（activity stream）和运营数据处理管道（pipeline）的基础。现在它已被多家不同类型的公司 作为多种类型的数据管道和消息系统使用。
活动流数据是几乎所有站点在对其网站使用情况做报表时都要用到的数据中最常规的部分。活动数据包括页面访问量（page view）、被查看内容方面的信息以及搜索情况等内容。这种数据通常的处理方式是先把各种活动以日志的形式写入某种文件，然后周期性地对这些文件进行统计分析。运营数据指的是服务器的性能数据（cpu、io 使用率、请求时间、服务日志等等数据)。运营数据的统计方法种类繁多。
近年来，活动和运营数据处理已经成为了网站软件产品特性中一个至关重要的组成部分，这就需要一套稍微更加复杂的基础设施对其提供支持。
kafka 简介
kafka 是一种分布式的，基于发布 / 订阅的消息系统。主要设计目标如下：
以时间复杂度为 o(1) 的方式提供消息持久化能力，即使对 tb 级以上数据也能保证常数时间复杂度的访问性能。
高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒 100k 条以上消息的传输。
支持 kafka server 间的消息分区，及分布式消费，同时保证每个 partition 内的消息顺序传输。
同时支持离线数据处理和实时数据处理。
scale out：支持在线水平扩展。
kafka 基础概念
概念一：生产者与消费者
对于 kafka 来说客户端有两种基本类型：生产者（producer）和消费者（consumer）。除此之外，还有用来做数据集成的 kafka connect api 和流式处理的 kafka streams 等高阶客户端，但这些高阶客户端底层仍然是生产者和消费者api，它们只不过是在上层做了封装。
这很容易理解，生产者（也称为发布者）创建消息，而消费者（也称为订阅者）负责消费or读取消息。
概念二：主题（topic）与分区（partition）
在 kafka 中，消息以主题（topic）来分类，每一个主题都对应一个「消息队列」，这有点儿类似于数据库中的表。但是如果我们把所有同类的消息都塞入到一个“中心”队列中，势必缺少可伸缩性，无论是生产者/消费者数目的增加，还是消息数量的增加，都可能耗尽系统的性能或存储。
我们使用一个生活中的例子来说明：现在 a 城市生产的某商品需要运输到 b 城市，走的是公路，那么单通道的高速公路不论是在「a 城市商品增多」还是「现在 c 城市也要往 b 城市运输东西」这样的情况下都会出现「吞吐量不足」的问题。所以我们现在引入分区（partition）的概念，类似“允许多修几条道”的方式对我们的主题完成了水平扩展。
概念三：broker 和集群（cluster）
一个 kafka 服务器也称为 broker，它接受生产者发送的消息并存入磁盘；broker 同时服务消费者拉取分区消息的请求，返回目前已经提交的消息。使用特定的机器硬件，一个 broker 每秒可以处理成千上万的分区和百万量级的消息。（现在动不动就百万量级..我特地去查了一把，好像确实集群的情况下吞吐量挺高的..摁..）
若干个 broker 组成一个集群（cluster），其中集群内某个 broker 会成为集群控制器（cluster controller），它负责管理集群，包括分配分区到 broker、监控 broker 故障等。在集群内，一个分区由一个 broker 负责，这个 broker 也称为这个分区的 leader；当然一个分区可以被复制到多个 broker 上来实现冗余，这样当存在 broker 故障时可以将其分区重新分配到其他 broker 来负责。下图是一个样例：
kafka 的一个关键性质是日志保留（retention），我们可以配置主题的消息保留策略，譬如只保留一段时间的日志或者只保留特定大小的日志。当超过这些限制时，老的消息会被删除。我们也可以针对某个主题单独设置消息过期策略，这样对于不同应用可以实现个性化。
概念四：多集群
随着业务发展，我们往往需要多集群，通常处于下面几个原因：
基于数据的隔离；
基于安全的隔离；
多数据中心（容灾）
当构建多个数据中心时，往往需要实现消息互通。举个例子，假如用户修改了个人资料，那么后续的请求无论被哪个数据中心处理，这个更新需要反映出来。又或者，多个数据中心的数据需要汇总到一个总控中心来做数据分析。
上面说的分区复制冗余机制只适用于同一个 kafka 集群内部，对于多个 kafka 集群消息同步可以使用 kafka 提供的 mirrormaker 工具。本质上来说，mirrormaker 只是一个 kafka 消费者和生产者，并使用一个队列连接起来而已。它从一个集群中消费消息，然后往另一个集群生产消息。
氧化石墨烯修饰的多频SAW湿度传感器助力医疗诊断和卫生应用
明基材关闭南科生产线，预计裁掉250位员工
联发科将收购络达 物联网时代射频器件作用凸显
基于ADS7846在线动态签名认证系统
视觉AI持续赋能教育行业 虹软助力“三位一体”高考招生
Kafka的四个基础概念学习
SWIR推出新私有APN解决方案 高云发布外设桥接GoBridge ASSP产品线
『 RJIBI 』- FACE-ZU：基于FPGA的SOC高性能计算平台
敏芯微首次公开发行股票并上市 接受国泰君安证券股份有限公司辅导
我们应该怎么样治理电力谐波
硬件工程师应牢记以下十个技巧
11代酷睿四款首发CPU性能曝光
放大电路的性能指标解析
三种基本逻辑电路运算比较
终于打开美国市场！华为Mate9美版6日正式开售
捷豹XFL新配色随心选，解锁生活新色彩
疫情下的5G突围如何去谋划
天然气长输管道流量计误差原因分析
微软市值升至全球第二，人工智能投资助推其市值增长
c源程序的基本结构是什么
kafka是一个消息系统，原本开发自 linkedin，用作 linkedin 的活动流（activity stream）和运营数据处理管道（pipeline）的基础。现在它已被多家不同类型的公司 作为多种类型的数据管道和消息系统使用。
活动流数据是几乎所有站点在对其网站使用情况做报表时都要用到的数据中最常规的部分。活动数据包括页面访问量（page view）、被查看内容方面的信息以及搜索情况等内容。这种数据通常的处理方式是先把各种活动以日志的形式写入某种文件，然后周期性地对这些文件进行统计分析。运营数据指的是服务器的性能数据（cpu、io 使用率、请求时间、服务日志等等数据)。运营数据的统计方法种类繁多。
近年来，活动和运营数据处理已经成为了网站软件产品特性中一个至关重要的组成部分，这就需要一套稍微更加复杂的基础设施对其提供支持。
kafka 简介
kafka 是一种分布式的，基于发布 / 订阅的消息系统。主要设计目标如下：
以时间复杂度为 o(1) 的方式提供消息持久化能力，即使对 tb 级以上数据也能保证常数时间复杂度的访问性能。
高吞吐率。即使在非常廉价的商用机器上也能做到单机支持每秒 100k 条以上消息的传输。
支持 kafka server 间的消息分区，及分布式消费，同时保证每个 partition 内的消息顺序传输。
同时支持离线数据处理和实时数据处理。
scale out：支持在线水平扩展。
kafka 基础概念
概念一：生产者与消费者
对于 kafka 来说客户端有两种基本类型：生产者（producer）和消费者（consumer）。除此之外，还有用来做数据集成的 kafka connect api 和流式处理的 kafka streams 等高阶客户端，但这些高阶客户端底层仍然是生产者和消费者api，它们只不过是在上层做了封装。
这很容易理解，生产者（也称为发布者）创建消息，而消费者（也称为订阅者）负责消费or读取消息。
概念二：主题（topic）与分区（partition）
在 kafka 中，消息以主题（topic）来分类，每一个主题都对应一个「消息队列」，这有点儿类似于数据库中的表。但是如果我们把所有同类的消息都塞入到一个“中心”队列中，势必缺少可伸缩性，无论是生产者/消费者数目的增加，还是消息数量的增加，都可能耗尽系统的性能或存储。
我们使用一个生活中的例子来说明：现在 a 城市生产的某商品需要运输到 b 城市，走的是公路，那么单通道的高速公路不论是在「a 城市商品增多」还是「现在 c 城市也要往 b 城市运输东西」这样的情况下都会出现「吞吐量不足」的问题。所以我们现在引入分区（partition）的概念，类似“允许多修几条道”的方式对我们的主题完成了水平扩展。
概念三：broker 和集群（cluster）
一个 kafka 服务器也称为 broker，它接受生产者发送的消息并存入磁盘；broker 同时服务消费者拉取分区消息的请求，返回目前已经提交的消息。使用特定的机器硬件，一个 broker 每秒可以处理成千上万的分区和百万量级的消息。（现在动不动就百万量级..我特地去查了一把，好像确实集群的情况下吞吐量挺高的..摁..）
若干个 broker 组成一个集群（cluster），其中集群内某个 broker 会成为集群控制器（cluster controller），它负责管理集群，包括分配分区到 broker、监控 broker 故障等。在集群内，一个分区由一个 broker 负责，这个 broker 也称为这个分区的 leader；当然一个分区可以被复制到多个 broker 上来实现冗余，这样当存在 broker 故障时可以将其分区重新分配到其他 broker 来负责。下图是一个样例：
kafka 的一个关键性质是日志保留（retention），我们可以配置主题的消息保留策略，譬如只保留一段时间的日志或者只保留特定大小的日志。当超过这些限制时，老的消息会被删除。我们也可以针对某个主题单独设置消息过期策略，这样对于不同应用可以实现个性化。
概念四：多集群
随着业务发展，我们往往需要多集群，通常处于下面几个原因：
基于数据的隔离；
基于安全的隔离；
多数据中心（容灾）
当构建多个数据中心时，往往需要实现消息互通。举个例子，假如用户修改了个人资料，那么后续的请求无论被哪个数据中心处理，这个更新需要反映出来。又或者，多个数据中心的数据需要汇总到一个总控中心来做数据分析。
上面说的分区复制冗余机制只适用于同一个 kafka 集群内部，对于多个 kafka 集群消息同步可以使用 kafka 提供的 mirrormaker 工具。本质上来说，mirrormaker 只是一个 kafka 消费者和生产者，并使用一个队列连接起来而已。它从一个集群中消费消息，然后往另一个集群生产消息。
氧化石墨烯修饰的多频SAW湿度传感器助力医疗诊断和卫生应用
明基材关闭南科生产线，预计裁掉250位员工
联发科将收购络达 物联网时代射频器件作用凸显
基于ADS7846在线动态签名认证系统
视觉AI持续赋能教育行业 虹软助力“三位一体”高考招生
Kafka的四个基础概念学习
SWIR推出新私有APN解决方案 高云发布外设桥接GoBridge ASSP产品线
『 RJIBI 』- FACE-ZU：基于FPGA的SOC高性能计算平台
敏芯微首次公开发行股票并上市 接受国泰君安证券股份有限公司辅导
我们应该怎么样治理电力谐波
硬件工程师应牢记以下十个技巧
11代酷睿四款首发CPU性能曝光
放大电路的性能指标解析
三种基本逻辑电路运算比较
终于打开美国市场！华为Mate9美版6日正式开售
捷豹XFL新配色随心选，解锁生活新色彩
疫情下的5G突围如何去谋划
天然气长输管道流量计误差原因分析
微软市值升至全球第二，人工智能投资助推其市值增长
c源程序的基本结构是什么