Jan

Jan：免费开源的本地大模型运行与对话工具

Jan（Jan.ai）是一款免费且开源的软件，专为在本地电脑上运行大语言模型并开展AI聊天对话而设计。它支持Windows、Mac以及Linux系统，让用户能够便捷地安装、部署和使用开源版本的ChatGPT替代模型。相较于Ollama，Jan不仅提供了对话UI，还内置了API服务器，非常适合开发者、研究人员及AI爱好者在本地环境中体验开源大模型。同时，该工具也支持用户输入自己的OpenAI API Key来运行GPT。

核心功能特性

• 本地运行开源大模型：支持手动导入或在模型库直接下载模型，兼容LlaMa、Mistral、Phi-2、DeepSeek、Yi等20多个开源大模型。
• 简洁直观的聊天界面：提供清爽易用的软件界面，用户可以直接在本地与所选的开源大模型进行快速对话交流。
• 多平台支持：全面兼容Windows、Mac（涵盖Intel及M1/M2/M3芯片）和Linux操作系统，未来还将推出移动端APP。
• 内置API服务器：提供与OpenAI API兼容的接口，允许用户通过API实现获取模型信息、下载、启动、停止模型以及聊天等操作。

如何使用Jan

1. 前往Jan官网（jan.ai），根据您的电脑操作系统选择对应版本并点击Download进行下载。
2. 完成安装后打开软件，在界面左下角点击“Download your first model”。
3. 进入模型库Hub界面，选择感兴趣的模型进行下载，下载完毕后点击“Use”即可启用该模型。
4. 在对话界面中输入您的描述，即可开始与所选模型进行对话。

未来更新计划

目前Jan仍在持续开发中，后续版本计划支持移动端APP、创建AI助理、推理引擎以及插件扩展等更多功能。