DeepSeek 多模态大模型Janus-Pro本地部署教程

1.部署环境配置

我个人用的是Mac的m1pro 16+512配置，我跑了1B的版本很流畅，7B的也可以跑起来，稍微感觉有一些卡顿。

需要安装Git-lfs，访问官网下载安装包安装，这个工具是用于下载大型文件必备的软件，这里用来下载大模型。

其次是安装conda，我选择的是安装软件anaconda，官网地址

2.创建虚拟环境

以上是界面化操作，如果用命令也是可以的

conda create -n Janus python=3.10 -y
conda activate Janus

下一步是克隆Janus项目到本地，可以理解为是运行大模型的程序

git clone https://github.com/deepseek-ai/Janus.git
cd Janus

继续下一步，给项目安装依赖

pip install -e .

继续下一步安装ui库，可以理解为你和大模型对话的界面

pip install gradio
// 也可以用国内镜像
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple --upgrade gradio

3.下载大模型到本地

模型下载网站，魔搭

下载完成后，在本地可以看到模型的文件夹

4.运行多模态大模型

第一步先找到运行大模型的程序，上文标橙色的地方

修改红框处代码，此处一定要写对大模型的地址

然后回到命令行，执行 python demo/app_januspro.py

到此处就可以和多模态大模型对话了！！