6K star! 100%本地运行LLM的AI助手

AI套壳千千万万，你最喜欢哪一款？现在各种ChatGPT替代品层出不穷，但是大部分都是使用OpenAI的API，也就说离不开网络。

今天我们推荐的开源项目它就是要帮你100%在本地运行大模型，进而构建一个属于自己的ChatGPT，本项目目前在GitHub已超过6K Star，它就是：Jan。

Jan是什么?

Jan 是一个开源 ChatGPT 替代品，可以在您的计算机上 100% 离线运行。

Jan支持从 PC 到多 GPU 集群的各种类型环境，以下是Jan支持运行环境类型：

• Nvidia GPU（快速）
• Apple M 系列（快速）
• 苹果英特尔
• Linux Debian
• Windows x64

下面是它的GitHub star历史，进入2024年，Jan就像坐上了火箭，一下子就起飞了。

为什么用 Jan

对比与同类产品，我们整理了一下Jan具备的特点：

• 支持广泛：支持各种开源的LLM（GGUF ，TensorRT）
• 跨平台支持：Windows、Mac、Linux，并通过Llama.cpp使用GPU加速。从本质上讲，Jan 是一个跨平台、本地优先的 AI 原生框架，可用于构建任何东西。在开发中Jan努力遵循 Clean Architecture，努力去构建一个跨平台的应用。

• 本地数据存储：数据存在本地，没有安全风险，并可以导出和迁移。
• 提供本地API server，可以快速提供本地服务。
• 支持扩展，可以自己开发扩展。

安装 Jan

安装包安装：

我的电脑是Mac，可以通过主页jan.ai/下载对应的安装包，当然…

下载完成，只需要点击安装，就可以安装好了。

源码安装：

源码安装首先要确定2个前提：

复制代码
Node.js 版本： 20.0.0 +
Yarn 版本 1.22.0 +
1
2
3

接下来下载源码：

bash
复制代码
git clone 
git checkout DESIRED_BRANCH
cd jan
1
2
3
4
5

使用yarn来安装依赖：

bash
复制代码
yarn install

# Build core module
yarn build:core

# Packing base plugins
yarn build:plugins

# Packing uikit
yarn build:uikit
1
2
3
4
5
6
7
8
9
10
11
12

最后启动项目：

复制代码
yarn dev
1
2

使用Jan

打开Jan之后，我们首先要安装模型。Jan里面自带了hub，可以直接找到各种模型。

我直接安装了推荐的Mistral 7B，最近也很火的。

Jan里面thread就相当于是会话。在右侧区域可以快速新建thread开始使用，还可以配置预设参数，以及切换模型等。

Jan当中支持灵活的编辑，比如想针对thread进行编辑，点三个点，就可以直接到JSON里编辑修改。

对于扩展来说，目前除了安装自带的，我还没看到能安什么，看来要等等。

Jan 附带了一个内置 API 服务器，可以用作 OpenAI API 的直接本地替代品。可以在设置中启用API server，默认会在1337端口。这是文档中说的，我装的stable版本里面没找到。

使用上其他就没有，大家自己试试，可以多交流。

项目信息

• 项目名称：Jan
• GitHub 链接：github.com/janhq/jan
• Star 数：6.3K+

最后

为了帮助大家更好的学习人工智能，这里给大家准备了一份人工智能入门/进阶学习资料，里面的内容都是适合学习的笔记和资料，不懂编程也能听懂、看懂，所有资料朋友们如果有需要全套人工智能入门+进阶学习资源包，可以在评论区或扫.码领取哦）~

在线教程

• 麻省理工学院人工智能视频教程 – 麻省理工人工智能课程
• 人工智能入门 – 人工智能基础学习。Peter Norvig举办的课程
• EdX 人工智能 – 此课程讲授人工智能计算机系统设计的基本概念和技术。
• 人工智能中的计划 – 计划是人工智能系统的基础部分之一。在这个课程中，你将会学习到让机器人执行一系列动作所需要的基本算法。
• 机器人人工智能 – 这个课程将会教授你实现人工智能的基本方法，包括：概率推算，计划和搜索，本地化，跟踪和控制，全部都是围绕有关机器人设计。
• 机器学习 – 有指导和无指导情况下的基本机器学习算法
• 机器学习中的神经网络 – 智能神经网络上的算法和实践经验
• 斯坦福统计学习

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓
​

人工智能书籍

• OpenCV（中文版）.(布拉德斯基等)
• OpenCV+3计算机视觉++Python语言实现+第二版
• OpenCV3编程入门 毛星云编著
• 数字图像处理_第三版
• 人工智能:一种现代的方法
• 深度学习面试宝典
• 深度学习之PyTorch物体检测实战
• 吴恩达DeepLearning.ai中文版笔记
• 计算机视觉中的多视图几何
• PyTorch-官方推荐教程-英文版
• 《神经网络与深度学习》(邱锡鹏-20191121)
• …
  
  😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓
  ​

第一阶段：零基础入门（3-6个月）

新手应首先通过少而精的学习，看到全景图，建立大局观。 通过完成小实验，建立信心，才能避免“从入门到放弃”的尴尬。因此，第一阶段只推荐4本最必要的书（而且这些书到了第二、三阶段也能继续用），入门以后，在后续学习中再“哪里不会补哪里”即可。

第二阶段：基础进阶（3-6个月）

熟读《机器学习算法的数学解析与Python实现》并动手实践后，你已经对机器学习有了基本的了解，不再是小白了。这时可以开始触类旁通，学习热门技术，加强实践水平。在深入学习的同时，也可以探索自己感兴趣的方向，为求职面试打好基础。

第三阶段：工作应用

这一阶段你已经不再需要引导，只需要一些推荐书目。如果你从入门时就确认了未来的工作方向，可以在第二阶段就提前阅读相关入门书籍（对应“商业落地五大方向”中的前两本），然后再“哪里不会补哪里”。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓
​