FastChat

一、官方网址

FastChat 官方仓库：https://github.com/lm-sys/FastChat

FastChat 是 LMSYS 团队出品的开放平台，集模型训练、部署、评测于一体，曾主导了开源大模型评测标准的建立。

二、核心功能

1. 多模型服务框架
   统一接口同时托管多个开源模型，支持 Web 界面与 API 访问。
2. OpenAI 兼容 API
   提供标准 API 网关，应用可像调 OpenAI 一样调用本地模型。
3. 模型微调工具
   内置 Vicuna 等模型的训练脚本，支持全参数与 LoRA 微调。
4. Chatbot Arena 评测
   配套全球最大的人工盲测模型排行榜，评测方法学影响深远。
5. 分布式部署
   控制器-工作节点架构支持多机多卡水平扩展。

三、适用场景

1. 多模型对比测试
   同一界面横向对比不同开源模型的实际表现。
2. 模型微调实验
   基于成熟脚本快速复现 Vicuna 式指令微调流程。
3. 学术评测研究
   借助 Arena 方法论开展大模型能力评估研究。

四、使用优势

1. 学术背景深厚
   背靠 UC Berkeley，评测与训练方法的学术影响力大。
2. 功能全链路
   从训练到服务再到评测，一个项目覆盖模型生命周期。
3. 历史地位独特
   孵化了 Vicuna 与 Arena 两个现象级成果。

五、注意事项

1. 开源协议
   采用 Apache 2.0 协议，可自由商用。
2. 维护节奏
   核心团队转向商业化后更新放缓，新项目可评估 vLLM 等替代品。
3. 模型许可
   Vicuna 等衍生模型受 LLaMA 原始协议约束，商用需注意。