书签栏
一、官方网址
- 官网：https://www.dask.org
- 工具名称：Dask
二、核心功能
- 并行 DataFrame：兼容 Pandas API 的分布式 DataFrame，大表分区并行清洗。
- 惰性计算图：任务构建为 DAG 延迟执行，调度器优化计算顺序与内存。
- 多尺度部署：同一套代码可在本机多核、多机集群乃至云端运行。
- 与生态协同：与 NumPy、Pandas、scikit-learn 深度集成，迁移成本低。
- 诊断面板：内置实时 Dashboard 监控任务进度与资源占用。
三、适用场景
- 超出内存的大数据集清洗转换
- 加速既有 Pandas 处理流程
- 集群上的并行特征工程
四、使用优势
- API 亲和，Pandas 用户几乎无迁移成本
- 纯 Python 生态，调试体验好
- 部署灵活，从笔记本到集群皆可
五、注意事项
- 并非所有 Pandas 操作都支持并行，需查阅差异
- 分布式调试相对复杂，建议先在单机验证逻辑