本地运行大语言模型的轻量级工具,一键下载和部署开源 LLM,支持 Llama 3、Mistral、Gemma 等主流模型,完全离线运行保护隐私。
基本信息
• 官网: https://ollama.com
• 分类: code / 开发工具
• 标签: 本地, 开源, LLM, 隐私, 模型部署
功能特点
• 一键部署:命令行一行命令即可下载并运行大语言模型
• 多模型支持:支持 Llama 3、Mistral、Gemma、Qwen、DeepSeek、Phi 等数十种开源模型
• 完全离线:模型下载后完全在本地运行,无需网络连接,保护数据隐私
• REST API:提供兼容 OpenAI 格式的 API 接口,方便开发集成
• Modelfile:自定义模型配置,支持导入 GGUF 格式模型
• 多模态支持:部分模型支持图像输入(如 LLaVA)
• 跨平台:支持 macOS、Linux、Windows
适用场景
• 🔒 隐私优先的 AI 应用:敏感数据不希望上传到云端
• 💻 本地开发测试:开发者在本地快速测试和调试 LLM 应用
• 🏢 企业内部部署:在自有服务器上运行 AI 模型
• 🎓 学习研究:研究和实验不同开源模型的特性
定价信息
• 完全免费开源(MIT 许可证)