Jan是一款支持 Windows、macOS、Linux 的本地AI软件,利用开源AI模型和自己的硬件(CPU、显卡),让你在自己电脑上运行大语言模型,实现100%完全离线、免费的ChatGPT。 ! d* {) d9 x6 c I8 J. \" u; x: {* e
$ T6 l- Z1 {/ h/ p( `
原理就是使用自己的硬件来提供算力,支持:4 Y. f i! d1 t& O: a. u
Nvidia GPUs (fast)
Apple M-series (fast)
Apple Intel
Linux Debian
Windows x64 ) W0 _ ^1 M8 t5 T7 f
也支持多GPU集群,反正你有什么设备尽管上,越多算力越大,速度越快。Jan提供了OpenAI等效API,可以在本地1337端口直接调用。 # G* p6 X! e' s( T4 Y/ U7 V- Q - n9 L. S i- r7 VJan的使用界面很简单,从边栏选择并下载模型后,就可以直接用了,像和 ChatGPT 一样聊天,只不过这次,算力由你自己的电脑提供。除了从Jan提供的Hub选择模型,也支持手动导入模型、使用在线模型(远程服务器)。 & k, z( e Q5 d9 p
( F0 e- ^; Q! o5 C4 `+ u5 e; y
官网:https://jan.ai/0 x/ I% j3 v0 V6 Z$ z/ g4 K
源码下载:https://github.com/janhq/jan