Jan

Jan（Jan.ai）是一个免费的开源工具，可以在本地运行大型模型并进行AI聊天。它能帮助用户在其个人电脑（支持Windows、Mac、Linux）上安装、部署及使用开源版本的ChatGPT，并替代包括LLaMa、Mistral、Phi-2等20多个大型模型。用户也可输入自己的OpenAI API Key以运行GPT。与之前介绍的Ollama相比，Jan提供了对话界面和API服务器，特别适合开发者、研究人员或AI爱好者在本地体验开源大型模型。

Jan的主要功能

• 本地运行开源大型模型：支持LlaMa、Mistral、Phi-2、DeepSeek、Yi等超过20个模型，用户可以手动导入或者从模型库中下载模型
• 简洁实用的聊天界面：软件界面清晰，直观且易于操作，用户可在本地快速与开源大型模型进行对话
• 支持多操作系统：Jan可在Windows、Mac（Intel、M1/M2/M3）和Linux上运行，未来还将推出移动端APP。
• 内置API服务器：兼容OpenAI API，用户可以通过API获取模型信息、下载、启动、停止模型及进行聊天等操作

如何使用Jan

1. 访问Jan的官方网站（jan.ai），选择适合自己电脑操作系统的版本，点击下载（Download）
2. 安装并打开软件后，点击软件界面左下角的“Download your first model”按钮
3. 进入模型库页面，选择感兴趣的模型进行下载，下载完成后点击“Use”以使用该模型
4. 在对话框中输入描述，就可以开始与选定的模型进行对话

Jan仍在不断开发中，未来将支持移动端APP、AI助理创建、推理引擎、插件扩展等多种新功能。