article_image

Jan 是一个开源的 ChatGPT 替代品,它是一个可以加载大语言模型的本地客户端。Jan 实现了 100% 本地运行,可以离线。截止发稿已经在 Github 斩获了 7.5k 的 Star。

Jan 的特点是能够在任何硬件上运行,它支持多种架构,包括 Nvidia GPU、Apple M 系列 CPU、Apple Intel 系列 CPU、Windows x64、Linux Debian。

Jan 的安装过程很简单,相比我之前尝试的 Text Generation WebUI(另一个 GPT 模型网页版客户端,类似 Stable Diffusion WebUI)需要从 Python 环境开始安装,安装过程中需要从网络下载大量内容,非常容易失败。而 Jan 的安装流程与普通软件没有太大区别。在 macOS 下无需更多设置,进入主界面后下载模型就可以使用了。

注:在 Windows + GPU 模式下,还需要额外安装 Nvidia 的 CUDA,并在设置中启用 GPU(参考此文)。


Jan 效果展示
Jan 效果展示

你可以在这里下载到 Jan 的客户端——


author_avatar

#UNTAG Developer