Great Expectations

手机扫码查看

一、官方网址

二、核心功能

  1. 声明式期望:以 expect_column_values_to_be_between 等语义化断言校验数据。
  2. 自动剖析:根据数据样本自动推荐期望规则,快速起步。
  3. 多后端执行:支持 Pandas、Spark、SQL 数据库上直接运行校验。
  4. 数据文档:验证结果自动渲染为可读的 Data Docs 网站。
  5. 管道集成:可嵌入 Airflow、dbt 等管道实现质量门禁。

三、适用场景

  • 数据管道入口的自动质量校验
  • 数仓表的健康监控与告警
  • 跨团队的数据契约管理
  • 数据清洗规则的回归测试

四、使用优势

  • 规则语义化,可读性极高
  • 报告与文档自动生成
  • 开源社区活跃,集成面广
  • 期望可版本化,随代码一同评审

五、注意事项

  • 规则维护需要与业务口径保持同步
  • 大表全量校验要关注执行成本
  • 3.x 版本 API 变化较大,注意查阅新版文档

同分类推荐

相关推荐