Jan 是一款基于本地运行的开源 AI 助手软件,旨在为用户提供一个完全离线、隐私优先、操作简便的人工智能解决方案。作为 ChatGPT 等在线服务的替代品,Jan 支持在用户设备上 100% 离线运行大型语言模型(LLM),无需依赖网络连接或云端服务器。
Jan 是一个基于开源技术构建的项目,支持多种大型语言模型(如 Llama、Gemma、Qwen 等),并提供从模型下载到运行的一站式解决方案。开发者可以通过 GitHub 获取源代码,并利用 make 或 mise 工具进行开发和部署。Jan 不仅适合终端用户使用,也适合开发者参与贡献。
软件功能
1. 本地 AI 模型运行
用户可从 HuggingFace 等平台下载并运行各种开源 LLM 模型。
支持在本地环境中完成训练、推理、测试全过程,保障数据安全性。
2. OpenAI 兼容 API 接口
提供本地服务接口localhost:1337,兼容 OpenAI 标准 API,便于其他应用程序接入。
3. 自定义助手创建
支持用户根据特定任务创建专属 AI 助手,提升个性化工作效率。
4. 云服务集成
可连接 OpenAI、Anthropic、Mistral、Groq 等云端服务,实现混合使用模式。
5. Model Context Protocol (MCP)
增强模型能力,支持调用外部工具、执行代码、读写文件等功能。
6. 多种构建与运行方式
支持一键开发启动(make dev/mise dev)、手动命令执行、生产打包等。