快來瞧瞧這份Spring面試小抄，Java實戰項目視頻

程序員小秘境 2021-09-19 03:55:25 阅读数:118

瞧瞧 spring 小抄 java

快來瞧瞧這份Spring面試小抄，Java實戰項目視頻_程序員

Kafka的基本介紹

Kafka是最初由Linkedin公司開發，是一個分布式、分區的、多副本的、多訂閱者，基於zookeeper協調的分布式日志系統（也可以當做MQ系統），常見可以用於web/nginx日志、訪問日志，消息服務等等，Linkedin於2010年貢獻給了Apache基金會並成為頂級開源項目。

主要應用場景是：日志收集系統和消息系統。

Kafka主要設計目標如下：

以時間複雜度為O(1)的方式提供消息持久化能力，即使對TB級以上數據也能保證常數時間的訪問性能。
高吞吐率。即使在非常廉價的商用機器上也能做到單機支持每秒100K條消息的傳輸。
支持Kafka Server間的消息分區，及分布式消費，同時保證每個partition內的消息順序傳輸。
同時支持離線數據處理和實時數據處理。

Kafka的設計原理分析

快來瞧瞧這份Spring面試小抄，Java實戰項目視頻_程序員_02

一個典型的kafka集群中包含若幹producer，若幹broker，若幹consumer，以及一個Zookeeper集群。Kafka通過Zookeeper管理集群配置，選舉leader，以及在consumer group發生變化時進行rebalance。producer使用push模式將消息發布到broker，consumer使用pull模式從broker訂閱並消費消息。

Kafka專用術語：

Broker：消息中間件處理結點，一個Kafka節點就是一個broker，多個broker可以組成一個Kafka集群。
Topic：一類消息，Kafka集群能够同時負責多個topic的分發。
Partition：topic物理上的分組，一個topic可以分為多個partition，每個partition是一個有序的隊列。
Segment：partition物理上由多個segment組成。
offset：每個partition都由一系列有序的、不可變的消息組成，這些消息被連續的追加到partition中。partition中的每個消息都有一個連續的序列號叫做offset，用於partition唯一標識一條消息。
Producer：負責發布消息到Kafka broker。
Consumer：消息消費者，向Kafka broker讀取消息的客戶端。
Consumer Group：每個Consumer屬於一個特定的Consumer Group。

Kafka數據傳輸的事務特點

at most once：最多一次，這個和JMS中"非持久化"消息類似，發送一次，無論成敗，將不會重發。消費者fetch消息，然後保存offset，然後處理消息；當client保存offset之後，但是在消息處理過程中出現了异常，導致部分消息未能繼續處理。那麼此後"未處理"的消息將不能被fetch到，這就是"at most once"。
at least once：消息至少發送一次，如果消息未能接受成功，可能會重發，直到接收成功。消費者fetch消息，然後處理消息，然後保存offset。如果消息處理成功之後，但是在保存offset階段zookeeper异常導致保存操作未能執行成功，這就導致接下來再次fetch時可能獲得上次已經處理過的消息，這就是"at least once"，原因offset沒有及時的提交給zookeeper，zookeeper恢複正常還是之前offset狀態。
exactly once：消息只會發送一次。kafka中並沒有嚴格的去實現（基於2階段提交），我們認為這種策略在kafka中是沒有必要的。

通常情况下"at-least-once"是我們首選。

Kafka消息存儲格式

Topic & Partition

一個topic可以認為一個一類消息，每個topic將被分成多個partition，每個partition在存儲層面是append log文件。

快來瞧瞧這份Spring面試小抄，Java實戰項目視頻_Java_03

在Kafka文件存儲中，同一個topic下有多個不同partition，每個partition為一個目錄，partiton命名規則為topic名稱+有序序號，第一個partiton序號從0開始，序號最大值為partitions數量减1。

快來瞧瞧這份Spring面試小抄，Java實戰項目視頻_後端_04

每個partion（目錄）相當於一個巨型文件被平均分配到多個大小相等segment（段）數據文件中。但每個段segment file消息數量不一定相等，這種特性方便old segment file快速被删除。
每個partiton只需要支持順序讀寫就行了，segment文件生命周期由服務端配置參數决定。

這樣做的好處就是能快速删除無用文件，有效提高磁盤利用率。

segment file組成：由2大部分組成，分別為index file和data file，此2個文件一一對應，成對出現，後綴".index"和“.log”分別錶示為segment索引文件、數據文件.
segment文件命名規則：partion全局的第一個segment從0開始，後續每個segment文件名為上一個segment文件最後一條消息的offset值。數值最大為64比特long大小，19比特數字字符長度，沒有數字用0填充。