Ollama

一、平台定位

Ollama是开源的本地大语言模型运行工具，让用户在个人电脑上一键下载、运行和交互大语言模型。支持macOS、Windows和Linux全平台，提供类似Docker的极简体验。2025年推出桌面应用和Ollama Cloud云服务，进一步扩展使用场景。

二、核心功能

1. 一键运行模型：ollama run命令自动下载并启动模型，无需手动配置环境和依赖。

2. 50+模型支持：支持Llama 4、DeepSeek、Qwen、Gemma、Mistral等50+前沿模型自由切换。

3. OpenAI兼容API：提供与OpenAI标准兼容的REST API，无缝对接LangChain、LlamaIndex等框架。

4. GPU加速：支持NVIDIA CUDA和Apple Silicon原生加速，4-bit量化降低显存需求。

5. 多模态支持：支持图像输入和文档分析，Llama 4 Scout等视觉模型可直接使用。

6. Ollama Cloud：可选云服务运行超大模型，免费层提供本地无限使用和轻量云访问。

7. 编码工具集成：ollama launch命令一键配置Claude Code、Codex等编码工具使用本地模型。

三、产品优势

完全开源免费（MIT许可）；极简部署体验；数据完全本地化保障隐私；跨平台支持；活跃社区持续更新。

四、适用场景

本地AI助手、隐私敏感场景、开发调试测试、离线AI应用、边缘计算部署。