OpenBMB
O
OpenBMB是清华团队发起的大模型开源社区,提供训练、微调、推理全链路工具,致力于让大模型飞入千家万户。
访问官网 ↗一、平台定位
OpenBMB(Open Lab for Big Model Base)是由清华大学团队发起的大模型开源社区,旨在打造大规模预训练语言模型库与相关工具,加速百亿级以上大模型的训练、微调与推理,降低大模型使用门槛,实现大模型的标准化、普及化和实用化。
二、核心功能
1. BMTrain:高效分布式训练框架,支持ZeRO3优化,将显存占用降低数倍,单机可训练大模型。
2. ModelCenter:大模型仓库,基于BMTrain实现BERT、GPT、T5、CPM等预训练模型的高效微调与分布式训练。
3. BMInf:千元级显卡大模型推理工具,单块GTX 1060即可进行百亿参数模型推理。
4. BMCook:大模型压缩工具库,通过量化、剪枝、蒸馏和专家化组合,保持90%+效果同时推理加速10倍。
5. OpenDelta:参数高效微调工具,支持Adapter、LoRA等方法,仅更新少量参数即可适配新任务。
6. OpenPrompt:提示学习工具库,支持多种提示工程方法和模板管理。
三、产品优势
清华团队学术背景深厚;全链路工具覆盖;极致优化降低硬件门槛;完全开源免费。
四、适用场景
大模型训练优化、模型微调与压缩、低资源推理部署、AI研究实验、教育场景应用。
相关工具

Scale AI
全球领先的AI数据标注与数据引擎平台,为AI模型训练提供高质量数据服务。

悟道
北京智源研究院发起的大规模预训练模型项目,探索通用人工智能,悟道2.0参数规模达1.75万亿。

Gen-2
Runway推出的多模态AI视频生成模型,文本/图像生成视频,电影级效果,视频生成先驱。

Cohere
加拿大AI公司,专注企业级NLP模型与RAG解决方案,提供Command系列模型与API。

Replicate
AI模型云推理平台,一行代码调用数千个开源模型,按需付费,模型部署云服务。

Cherry Studio
开源AI桌面客户端,聚合多模型对话、知识库、翻译等能力,本地化AI助手工具。
H
HuggingFace
全球最大的AI模型社区与平台,提供模型托管、数据集、推理API与Transformers库,AI基础设施。

DeepSpeed
微软开源的大模型训练优化库,ZeRO技术实现万亿参数训练,推理优化兼顾性能与成本。

Ollama
Ollama是开源本地大模型运行工具,支持一键下载运行Llama、DeepSeek等50+模型,提供OpenAI兼容API和跨平台支持。

Nano Banana
Google开源的Gemini图像模型优化版,专为图像生成与编辑优化,高质量视觉创作。

讯飞星辰MaaS
科大讯飞推出的星火大模型MaaS平台,提供模型API、专属模型定制与行业解决方案。

Gradio
HuggingFace开源的机器学习演示工具,几行代码为模型构建Web界面,快速分享AI应用。