Apache Sqoop

手机扫码查看

一、官方网址

二、核心功能

  1. 双向传输:支持关系库导入 HDFS/Hive/HBase,也可将结果导回数据库。
  2. 并行导入:按主键切分为多个 Map 任务并行抽取,吞吐量高。
  3. 增量导入:支持 append 与 lastmodified 两种增量抽取模式。
  4. 直连模式:对 MySQL、Postgres 等提供原生直连通道,性能更佳。
  5. 作业管理:可保存作业定义,配合调度实现周期化同步。

三、适用场景

  • 传统 Hadoop 数仓的关系库数据接入
  • 分析结果回写业务库
  • 遗留系统的批量迁移项目

四、使用优势

  • Hadoop 生态兼容性成熟
  • 命令行操作简单直接
  • 长期生产验证,稳定可靠

五、注意事项

  • 项目已进入 Attic 退休状态,新项目建议选 SeaTunnel 等替代
  • 仅支持批量模式,无实时能力

同分类推荐

相关推荐