课程表

Apache Kafka课程

工具箱
速查手册

Kafka 消费者组示例

当前位置:免费教程 » 大数据/云 » Apache Kafka

消费群是多线程或多机器的Apache Kafka主题。

消费者群体

  • 消费者可以使用相同的 group.id 加入群组

  • 一个组的最大并行度是组中的消费者数量←不是分区。

  • Kafka将主题的分区分配给组中的使用者,以便每个分区仅由组中的一个使用者使用。

  • Kafka保证消息只能被组中的一个消费者读取。

  • 消费者可以按照消息存储在日志中的顺序查看消息。

重新平衡消费者

添加更多进程/线程将导致Kafka重新平衡。 如果任何消费者或代理无法向ZooKeeper发送心跳,则可以通过Kafka集群重新配置。 在此重新平衡期间,Kafka将分配可用分区到可用线程,可能将分区移动到另一个进程。

  1. import java.util.Properties;
  2. import java.util.Arrays;
  3. import org.apache.kafka.clients.consumer.KafkaConsumer;
  4. import org.apache.kafka.clients.consumer.ConsumerRecords;
  5. import org.apache.kafka.clients.consumer.ConsumerRecord;
  6.  
  7. public class ConsumerGroup {
  8. public static void main(String[] args) throws Exception {
  9. if(args.length < 2){
  10. System.out.println("Usage: consumer <topic> <groupname>");
  11. return;
  12. }
  13. String topic = args[0].toString();
  14. String group = args[1].toString();
  15. Properties props = new Properties();
  16. props.put("bootstrap.servers", "localhost:9092");
  17. props.put("group.id", group);
  18. props.put("enable.auto.commit", "true");
  19. props.put("auto.commit.interval.ms", "1000");
  20. props.put("session.timeout.ms", "30000");
  21. props.put("key.deserializer",
  22. "org.apache.kafka.common.serializa-tion.StringDeserializer");
  23. props.put("value.deserializer",
  24. "org.apache.kafka.common.serializa-tion.StringDeserializer");
  25. KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
  26. consumer.subscribe(Arrays.asList(topic));
  27. System.out.println("Subscribed to topic " &plus; topic);
  28. int i = 0;
  29. while (true) {
  30. ConsumerRecords<String, String> records = con-sumer.poll(100);
  31. for (ConsumerRecord<String, String> record : records)
  32. System.out.printf("offset = %d, key = %s, value = %s\n",
  33. record.offset(), record.key(), record.value());
  34. }
  35. }
  36. }

汇编

  1. javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java

执行

  1. >>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":.
  2. ConsumerGroup <topic-name> my-group
  3. >>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":.
  4. ConsumerGroup <topic-name> my-group

在这里,我们为两个消费者创建了一个示例组名称为 my-group 同样,您可以在组中创建您的组和消费者数量。

输入

打开生产者CLI并发送一些消息 -

  1. Test consumer group 01
  2. Test consumer group 02

第一个过程的输出

  1. Subscribed to topic Hello-kafka
  2. offset = 3, key = null, value = Test consumer group 01

第二个过程的输出

  1. Subscribed to topic Hello-kafka
  2. offset = 3, key = null, value = Test consumer group 02

现在希望你能通过使用Java客户端演示了解SimpleConsumer和ConsumeGroup。 现在,您了解如何使用Java客户端发送和接收消息。 让我们在下一章继续Kafka与大数据技术的集成。

转载本站内容时,请务必注明来自W3xue,违者必究。
 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号