欢迎访问宙启技术站
智能推送

kafka-2安装实战篇

发布时间:2023-05-14 22:21:13

Kafka是一个分布式的消息队列系统,常用于处理海量数据的传输和存储,具有高扩展性、高吞吐量和高容错性等特点。本文将介绍如何在Linux系统下搭建Kafka的实战操作,以下为详细步骤。

一、安装JDK

在安装Kafka之前,需要先安装JDK,建议使用JDK1.8版本。

1. 安装JDK

sudo apt-get update

sudo apt-get install default-jdk -y

2. 查看JDK版本

java -version

二、下载Kafka

可以在Kafka的官网(https://kafka.apache.org/downloads)上下载Kafka的最新版本。本文使用的版本为2.5.1。

1. 下载Kafka

wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.5.1/kafka_2.12-2.5.1.tgz

2. 解压Kafka

tar -zxvf kafka_2.12-2.5.1.tgz

三、启动Kafka

1. 进入Kafka目录

cd kafka_2.12-2.5.1

2. 启动Zookeeper服务

Kafka依赖于Zookeeper服务,需要先启动Zookeeper,可以使用默认配置文件。

bin/zookeeper-server-start.sh config/zookeeper.properties

3. 启动Kafka服务

使用默认配置文件启动Kafka服务。

bin/kafka-server-start.sh config/server.properties

四、创建Topic

Topic是Kafka的基本概念,用于区分不同类型的消息。可以使用命令行工具kafka-topics.sh创建Topic。

1. 创建Topic

bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

其中,--bootstrap-server参数指定Kafka的地址,--replication-factor参数指定备份的副本数,--partitions指定分区数,--topic指定Topic名称。

2. 查看已创建的Topic

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

五、发布和消费消息

1. 向Topic发布消息

可以使用命令行工具kafka-console-producer.sh向Topic发布消息。

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

在命令行中输入消息内容后,按Enter键即可发布消息。

2. 从Topic消费消息

可以使用命令行工具kafka-console-consumer.sh从Topic消费消息。

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

该命令将从Topic的最早消息开始消费,并把消费的消息打印在命令行中。

六、结束Kafka服务

1. 停止Kafka服务

bin/kafka-server-stop.sh

2. 停止Zookeeper服务

bin/zookeeper-server-stop.sh

通过以上步骤,我们已经成功地安装并配置了Kafka,创建了Topic并向其中发布和消费消息。Kafka的安装和使用还有许多需要深入了解的内容,如集群部署、数据备份、消息格式等,需要不断学习和实践。