Apache Kafka

手机扫码查看

一、官方网址

二、核心功能

  1. 高吞吐消息管道:发布订阅模型支持每秒百万级消息,持久化存储保证数据不丢。
  2. Kafka Connect:标准化连接器框架,实现数据库、文件、搜索等系统的实时进出同步。
  3. Kafka Streams:流处理客户端库,支持过滤、转换、聚合、关联等实时清洗逻辑。
  4. 分布式高可用:分区副本机制保障容错,可水平扩展至数千节点集群。
  5. 生态丰富:与 Flink、Spark、ksqlDB 等流处理生态无缝衔接。

三、适用场景

  • 实时日志与事件数据的采集分发
  • 系统间解耦的实时数据同步管道
  • 实时数仓的流式清洗与宽表构建

四、使用优势

  • 吞吐与延迟表现业界顶尖
  • 社区活跃,几乎所有公司都在使用
  • Exactly-once 语义保证数据准确性

五、注意事项

  • 本身是管道而非完整 ETL 工具,需搭配处理引擎
  • 集群运维有门槛,小团队可考虑云托管版本

同分类推荐

相关推荐