OpenBMB

一、平台定位

OpenBMB（Open Lab for Big Model Base）是由清华大学团队发起的大模型开源社区，旨在打造大规模预训练语言模型库与相关工具，加速百亿级以上大模型的训练、微调与推理，降低大模型使用门槛，实现大模型的标准化、普及化和实用化。

二、核心功能

1. BMTrain：高效分布式训练框架，支持ZeRO3优化，将显存占用降低数倍，单机可训练大模型。

2. ModelCenter：大模型仓库，基于BMTrain实现BERT、GPT、T5、CPM等预训练模型的高效微调与分布式训练。

3. BMInf：千元级显卡大模型推理工具，单块GTX 1060即可进行百亿参数模型推理。

4. BMCook：大模型压缩工具库，通过量化、剪枝、蒸馏和专家化组合，保持90%+效果同时推理加速10倍。

5. OpenDelta：参数高效微调工具，支持Adapter、LoRA等方法，仅更新少量参数即可适配新任务。

6. OpenPrompt：提示学习工具库，支持多种提示工程方法和模板管理。

三、产品优势

清华团队学术背景深厚；全链路工具覆盖；极致优化降低硬件门槛；完全开源免费。

四、适用场景

大模型训练优化、模型微调与压缩、低资源推理部署、AI研究实验、教育场景应用。