Ollama

Ollama

本地运行Llama和其他大语言模型

AI训练模型 更新于2026年07月14日

Ollama 工具简介

Ollama 是一款免费开源的命令行工具,专为在本地计算机上运行大型语言模型而设计。用户可以通过它下载并本地运行 Llama 2、Code Llama 等模型,同时也支持自定义和创建专属模型。该工具特别适合需要在本地机器上运行和实验大语言模型的开发人员或研究人员,无需依赖外部云服务。

在数据隐私方面,Ollama 确保所有与模型的交互都在本地进行,无需将私有数据发送到第三方服务。此外,它还提供了官方的 Docker 镜像,使得使用 Docker 容器部署大型语言模型变得更加简单。

核心功能与特性

  • 多平台支持:目前支持 macOS 和 Linux 操作系统,未来还将支持 Windows 系统。同时,现已推出适用于 macOS 和 Windows 的桌面端应用。
  • 桌面端新功能:桌面端新增了文件处理与多模态交互功能,让用户与本地大语言模型的交互更加直观便捷。
  • 硬件加速:在 macOS 和 Linux 上支持 GPU 加速。
  • 交互方式:提供简单的命令行界面(CLI)以及用于与应用程序交互的 REST API。

Ollama 安装包获取

如需获取 Ollama 安装包,可扫码关注并回复:Ollama。

Ollama 支持的模型

Ollama 提供了一个模型库,用户可以自行选择安装想要运行的模型。目前支持 40+ 的模型,并且还在持续增加中。以下是可以下载的开源模型示例:

  • DeepSeek-R1:参数大小为 1.5B、7B、14B、32B 等,文件大小 12-320GB,下载运行命令为 ollama run deepseek-r1。
  • Neural Chat:参数大小为 7B,文件大小 4.1GB,下载运行命令为 ollama run neural-chat。
  • Starling:参数大小为 7B,文件大小 4.1GB,下载运行命令为 ollama run starling-lm。
  • Mistral:参数大小为 7B,文件大小 4.1GB,下载运行命令为 ollama run mistral。
  • Llama 2:参数大小为 7B,文件大小 3.8GB,下载运行命令为 ollama run llama2。
  • Code Llama:参数大小为 7B,文件大小 3.8GB,下载运行命令为 ollama run codellama。
  • Llama 2 Uncensored:参数大小为 7B,文件大小 3.8GB,下载运行命令为 ollama run llama2-uncensored。
  • Llama 2 13B:参数大小为 13B,文件大小 7.3GB,下载运行命令为 ollama run llama2:13b。
  • Llama 2 70B:参数大小为 70B,文件大小 39GB,下载运行命令为 ollama run llama2:70b。
  • Orca Mini:参数大小为 3B,文件大小 1.9GB,下载运行命令为 ollama run orca-mini。
  • Vicuna:参数大小为 7B,文件大小 3.8GB,下载运行命令为 ollama run vicuna。

更多AI工具