Apache Kafka 消費者組示例

2020-07-16 16:18 更新

消費群是多線程或多機器的Apache Kafka主題。

消費者群體

  • 消費者可以使用相同的 group.id 加入群組

  • 一個組的最大并行度是組中的消費者數量←不是分區(qū)。

  • Kafka將主題的分區(qū)分配給組中的使用者,以便每個分區(qū)僅由組中的一個使用者使用。

  • Kafka保證消息只能被組中的一個消費者讀取。

  • 消費者可以按照消息存儲在日志中的順序查看消息。

重新平衡消費者

添加更多進程/線程將導致Kafka重新平衡。 如果任何消費者或代理無法向ZooKeeper發(fā)送心跳,則可以通過Kafka集群重新配置。 在此重新平衡期間,Kafka將分配可用分區(qū)到可用線程,可能將分區(qū)移動到另一個進程。

import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;

public class ConsumerGroup {
   public static void main(String[] args) throws Exception {
      if(args.length < 2){
         System.out.println("Usage: consumer <topic> <groupname>");
         return;
      }
      
      String topic = args[0].toString();
      String group = args[1].toString();
      Properties props = new Properties();
      props.put("bootstrap.servers", "localhost:9092");
      props.put("group.id", group);
      props.put("enable.auto.commit", "true");
      props.put("auto.commit.interval.ms", "1000");
      props.put("session.timeout.ms", "30000");
      props.put("key.deserializer",          
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      props.put("value.deserializer", 
         "org.apache.kafka.common.serializa-tion.StringDeserializer");
      KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
      
      consumer.subscribe(Arrays.asList(topic));
      System.out.println("Subscribed to topic " &plus; topic);
      int i = 0;
         
      while (true) {
         ConsumerRecords<String, String> records = con-sumer.poll(100);
            for (ConsumerRecord<String, String> record : records)
               System.out.printf("offset = %d, key = %s, value = %s\n", 
               record.offset(), record.key(), record.value());
      }     
   }  
}

Consumer客戶端API主配置設置的配置設置如下所示

S.No 設置和說明
1 引導代理列表。
2 group.id
將單個消費者分配給組。
3 enable.auto.commit
如果值為true,則為偏移啟用自動落實,否則不提交。
4 auto.commit.interval.ms
返回更新的消耗偏移量寫入ZooKeeper的頻率。
5 session.timeout.ms
表示Kafka在放棄和繼續(xù)消費消息之前等待ZooKeeper響應請求(讀取或寫入)多少毫秒。

編譯

javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

執(zhí)行

>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":. 
ConsumerGroup <topic-name> my-group

在這里,我們?yōu)閮蓚€消費者創(chuàng)建了一個示例組名稱為 my-group 同樣,您可以在組中創(chuàng)建您的組和消費者數量。

輸入

打開生產者CLI并發(fā)送一些消息 -

Test consumer group 01
Test consumer group 02

第一個過程的輸出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01

第二個過程的輸出

Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02

希望你能通過使用Java客戶端演示了解SimpleConsumer和ConsumerGroup。 

現在,您了解如何使用Java客戶端發(fā)送和接收消息。 讓我們在下一章繼續(xù)Kafka與大數據技術的集成。



以上內容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號