学习kafka教程（一）

sweetgirl0

2019-06-30

关注关注

简介

kafka是用于构建实时数据管道和流应用程序。具有横向扩展，容错，wicked fast（变态快）等优点，并已在成千上万家公司运行。

学习kafka教程（一）

目标

了解kafka的基本原理
掌握kafka的基本操作
kafka的深度探究在另一篇文章。

安装

1.由于kafka需要zookeeper的。所以您可以参考【谈谈zookeeper】
2.kafka安装
2.1下载地址：http://mirror.bit.edu.cn/apac...
2.2 配置：
（注：KAFKA_HOME为你配置的环境变量。hadoop01为你配置hosts）
编辑$KAFKA_HOME/config/下的server.properties文件
server.properties

broker.id=0
#listeners=PLAINTEXT://:9092
log.dirs=/root/app/tmp/kafkalog
num.partitions=1
zookeeper.connect=hadoop01:2181

2.3 多broker的kafka安装配置

config/server-1.properties:
    broker.id=1
    listeners=PLAINTEXT://:9093
    log.dir=/tmp/kafka-logs-1

config/server-2.properties:
   broker.id=2
   listeners=PLAINTEXT://:9094
   log.dir=/tmp/kafka-logs-2

常用操作命令

启动kafka

kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties

创建topic

bin/kafka-topics.sh --create --zookeeper hadoop01:2181 --replication-factor 1 --partitions 1 --topic hello_topic

查看topic

./kafka-topics.sh --list --zookeeper hadoop01:2181

查看指定topic的详细信息

kafka-topics.sh --describe --zookeeper hadoop01:2181

生产消息

./kafka-console-producer.sh --broker-list hadoop01:9092 --topic hello_topic

消费消息

./kafka-console-consumer.sh --bootstrap-server hadoop01:9092 --topic hello_topic --from-beginning

0.9.0版本的用下面的命令

./kafka-console-consumer.sh --zookeeper hadoop01:2181 --topic hello_topic --from-beginning

解析：--from-beginning：是从producer开始的位置开始拿数据的。

Springboot操作kafka

特别注意（巨坑）：kafka有很多版本的。各版本对应使用的springboot或者jar是不一样。请参考spring官网的说明：http://spring.io/projects/spr...

本文使用的是springboot1.5系列+0.10.0.x的
pom.xml

<dependency>
    <groupId>org.springframework.kafka</groupId>
    <artifactId>spring-kafka</artifactId>
    <version>1.0.5.RELEASE</version>
</dependency>

生产者代码
主要是向kafka服务发送消息（生产消息）。

/**
 * 测试kafka生产者
 */
@RestController
@RequestMapping("kafka")
public class TestKafkaProducerController {

    @Autowired
    private KafkaTemplate<String, String> kafkaTemplate;

    @RequestMapping("send")
    public String send(String msg){
        kafkaTemplate.send("hello_topic", msg);
        return "success";
    }

}

消费者代码
从主题（topic）中获取消息进行消费。

/**
 * kafka消费者测试
 */
@Component
public class TestConsumer {

    @KafkaListener(topics = "hello_topic")
    public void listen (ConsumerRecord<?, ?> record) throws Exception {
        System.out.printf("topic = %s, offset = %d, value = %s \n", record.topic(), record.offset(), record.value());
    }
}

yml配置文件
主要是配置kafka的服务地址。

spring:
  kafka:
    bootstrap-servers: 120.79.xxx.x:9092
    producer:
      key-serializer: org.apache.kafka.common.serialization.StringSerializer
      value-serializer: org.apache.kafka.common.serialization.StringSerializer
    consumer:
      group-id: test
      enable-auto-commit: true
      auto-commit-interval: 1000
      key-deserializer: org.apache.kafka.common.serialization.StringDeserializer
      value-deserializer: org.apache.kafka.common.serialization.StringDeserializer