当前位置: 首页 > news >正文

AI大模型(二)基于Deepseek搭建本地可视化交互UI

AI大模型(二)基于Deepseek搭建本地可视化交互UI

DeepSeek开源大模型在榜单上以黑马之姿横扫多项评测,其社区热度指数暴涨、一跃成为近期内影响力最高的话题,这个来自中国团队的模型向世界证明:让每个普通人都能拥有媲美GPT-4o的智能体,不再是硅谷巨头的专利。随着DeepSeek的爆火和出圈、以及社区的完善和上手门槛的降低,AI大模型与普通人的距离也越来越近,对AI大模型的使用在未来很可能会成为一项主流的工作技能。基于此,本系列文章将以DeepSeek为例,从本地大模型部署、可视化服务UI、本地知识库搭建、大模型部署调优、破除大模型限制以及角色定制、酒馆使用等方面进行保姆级教学(陆续更新中…),让你轻松玩转大模型,享受大模型带来的便利与乐趣。

在这里插入图片描述

在本文开始之前,我们先简单回顾下上篇文章的内容,在上篇文章中我们详细介绍了基于DeepSeek的本地大模型部署教程,在文章结尾处我们已经能够在本地命令行中实现与大模型的对话服务。但是我们发现这种原始的交互方式非常不友好,并且功能和拓展都比较单一,难以满足我们的需求。因此本文将在此基础上,通过多种方式搭建基于Deepseek的本地可视化交互UI,并实现功能拓展。大家可以在下面Open WebUI、ChatBox和Page Assist插件三种方式中选择一种进行实现即可。

一. Open WebUI

Open WebUI 官网: https://docs.openwebui.com/

Open WebUI GitHub: https://docs.openwebui.com/

Open WebUI(前身为Ollama WebUI)是一个开源、可扩展、功能丰富且用户友好的 AI 大模型托管平台,它提供了丰富、易用的用户界面,并支持各种 LLM 提供商(如 Ollama)和与 OpenAI 兼容的 API,还内置 RAG 推理引擎等丰富拓展功能,使其成为强大的 AI 部署解决方案之一,尤其是与Ollama具有较好的兼容性。

1. 环境准备

Open WebUI的部署过程比较复杂,其主要有Docker和Python两种搭建方式,鉴于网上对于Docker搭建方式的教程比较多,因此本文将以Pyhton搭建方式为主进行讲解。在安装Open WebUI之前,我们首先需要在本地安装好Python 3.11版本环境(建议使用uvconda管理),对于Python环境的安装这里就不再展开,网上相关教程很多且安装也较为简单,大家可以自行了解。需要注意的是: Python 3.12 似乎可以运行,但尚未经过全面测试;Python 3.13 完全未经测试(使用时风险自负)。

在这里插入图片描述

2. 安装Open WebUI

在终端中执行以下命令,由于需要下载安装大量依赖组件和模型(语音模型、向量嵌入模型、图像识别模型等),这个过程可能会比较久,请耐心等待;注意如果进度条长时间卡着不动,尝试多按几下回车试试:

pip install open-webui

在这里插入图片描述

3. 启动Open WebUI

等待安装完成后,接着通过以下命令启动Open WebUI服务,命令行输出Open WebUI符号即为启动成功:

open-webui serve

在这里插入图片描述

4. 访问Open WebUI

服务启动完成后,在浏览器输入地址并访问http://localhost:8080,会看到如下界面(注意后台Python运行窗口不要关掉,否则Open WebUI服务会停止),然后点击“开始使用”后需要创建账号才可使用,这里账号仅会存储在本地管理:

在这里插入图片描述
在这里插入图片描述

5. 使用Open WebUI

创建账号并登陆完成后,后有一个短暂的页面空白期,Open WebUI会自动连接本地Ollama端口(请确保Ollama服务已开启),连接完成后会出现完整的对话窗口和本地模型列表:

在这里插入图片描述

(1)基本对话服务

在这里插入图片描述

(2)高级系统设置

  • 提示词与模型参数

在这里插入图片描述

  • 修改外部链接

在这里插入图片描述

  • 开启联网搜索

在这里插入图片描述

二. Chatbox AI

Chatbox AI 官网: https://chatboxai.app/zh

Chatbox AI GitHub: https://github.com/Bin-Huang/chatbox

类似于Open WebUI,Chatbox AI同样也是开源、可拓展的适用于AI大模型(GPT、Claude、Gemini、Ollama…)的用户友好型桌面客户端应用程序,支持本地模型托管和众多先进AI模型的API接入,可在 Windows、MacOS、Android、iOS、Linux 甚至网页版上直接使用,相比Open WebUI来说,Chatbox AI的使用更加简单、无需额外准备任何环境。

在这里插入图片描述

1. 配置Ollama服务

点击“启动网页版”后会进入Chatbox AI的主界面,这里会让你选择大模型提供商(包括Chatbox API、OpenAI API、Ollama API等),我们需要选择Ollama API来连接本地部署的Ollama服务,但是此时浏览器是无法直接访问本地部署的Ollama API的(涉及跨域问题),因此我们需要在之前配置的基础上,再添加对跨域支持的系统环境变量OLLAMA_ORIGINS = *

在这里插入图片描述

环境变量添加完成后同样需要重启电脑或Ollama服务才可生效,然后我们重新进入Chatbox AI的设置中,可以发现已可以正确检测到Ollama API和本地模型,选择模型并保存即可:

在这里插入图片描述

2. 使用Chatbox AI

配置Ollama服务完成后,跟Open WebUI的使用类似,我们可以直接在对话页面与本地大模型进行交互,并支持对系统提示词或大模型参数进行调整,其他的区别可能就是一些功能丰富性上的差异,大家可以自行探索。注意这里如果是英文,可以到设置中更改为简体中文显示:

在这里插入图片描述
在这里插入图片描述

三. Page Assist

Page Assist 插件: https://chromewebstore.google.com/detail/page-assist

Page Assist Github: https://github.com/n4ze3m/page-assist

除了上述的Open WebUI和Chatbox AI之外,我们这里再介绍一个更加轻量级的可视化工具Page Assist,它是一个浏览器插件形式的开源大模型用户交互与管理应用,该插件可兼容的浏览器类型如下:

在这里插入图片描述

我们直接在浏览器商店中下载并安装Page Assist 插件后,点击插件即可进入Page Assist主界面,如果展示Ollama is running即表示Ollama服务已连接成功(可在右上角设置中修改为简体中文),注意在左上角还需要选择模型来进行对话 :

在这里插入图片描述

除此之外,要使用Page Assist还需要在设置>RAG页面里选择一个文本嵌入模型,这里可以使用专业的嵌入模型(需在Ollama下载)或者直接使用deepseek-r1:7b作为嵌入模型,不过建议使用更专业的嵌入模型比如nomic-embed-text,在RAG中效果会更好;并且Page Assist也支持联网搜索、上传文档/图片等操作:

在这里插入图片描述

在这里插入图片描述

相关文章:

AI大模型(二)基于Deepseek搭建本地可视化交互UI

AI大模型(二)基于Deepseek搭建本地可视化交互UI DeepSeek开源大模型在榜单上以黑马之姿横扫多项评测,其社区热度指数暴涨、一跃成为近期内影响力最高的话题,这个来自中国团队的模型向世界证明:让每个普通人都能拥有媲…...

各种协议设计

这些设计问题背后的核心本质可以总结为以下几个关键原则,我将结合不同领域为您系统讲解: 一、核心设计原则(本质层面) 抽象与分层 本质:将复杂系统分解为不同层次的抽象(物理层/逻辑层/业务层&#xff09…...

DockerFile详细学习

目录 1.DockerFile介绍 2.DockerFile常用指令 3.指令详细讲解 4.实例 构建Node-Exporter 构建Alertmanager 构建Mariadb 1.DockerFile介绍 什么是 Dockerfile? Dockerfile 是一个文本文件,包含了构建 Docker 镜像的所有指令。 Dockerfile 是一…...

Windows Docker笔记-简介摘录

Docker是一个开源的容器化平台,可以帮助开发人员将应用程序与其依赖项打包在一个独立的容器中,然后在任何安装的Docker的环境中快速、可靠地运行。 几个基本概念和优势: 1. 容器 容器是一个轻量级、独立的运行环境,包含了应用程…...

TeamSpeak开黑频道加入 —— 点歌机器人 (细致讲解100%学会)

文章目录 前言:搭建Ubuntu云服务器选择服务器:打开防火墙(前置工作):下载Xshell 连接: 创建机器人工作路径创建新用户teamspeak:升级新用户teamspeak的访问权限:切换为teamspeak用户并为机器人创建文件夹: 下载机器人本体安装依赖库:下载TS3…...

2025简约的打赏系统PHP网站源码

源码介绍 2025简约的打赏系统PHP网站源码 源码上传服务器,访问域名/install.php安装 支持自定义金额打赏 集成支付宝当面付 后台管理系统 订单记录查询 效果预览 源码获取 2025简约的打赏系统PHP网站源码...

网络安全 | 零信任架构:重构安全防线的未来趋势

网络安全 | 零信任架构:重构安全防线的未来趋势 一、前言二、零信任架构的核心概念与原理2.1 核心概念2.2 原理 三、零信任架构的关键技术组件3.1 身份管理与认证系统3.2 授权与访问控制系统3.3 网络与安全监测系统3.4 加密与数据保护技术 四、零信任架构与传统安全…...

JavaScript系列(62)--实时通信系统实现详解

JavaScript实时通信系统实现详解 🔄 今天,让我们深入探讨JavaScript的实时通信系统实现。实时通信是现代Web应用中不可或缺的一部分,它能够提供即时的数据交互和更好的用户体验。 WebSocket通信基础 🌟 💡 小知识&am…...

【蓝桥杯嵌入式】2_LED

1、电路图 74HC573是八位锁存器,当控制端LE脚为高电平时,芯片“导通”,LE为低电平时芯片“截止”即将输出状态“锁存”,led此时不会改变状态,所以可通过led对应的八个引脚的电平来控制led的状态,原理图分析…...

代码随想录day06

242.有效的字母异位词 刚学哈希表想着使用unordered_set来实现,结果无法通过,原因是对字母异位词理解有问题,字母异位词是通过重新排列不同单词或短语的字母而形成的单词或短语,并使用所有原字母一次。对字母出现的次数有要求&am…...

Spring @PropertySource:让你的应用配置更加模块化和可维护

PropertySource注解在Spring中的作用,就像是给Spring应用配了一个“外部配置箱”。 想象一下,你在开发一个Spring应用时,有很多配置信息需要设置,比如数据库的连接信息、应用的某些功能开关等。如果这些信息都硬编码在代码中&…...

【Java】MyBatis动态SQL

在MyBatis中使用动态SQL语句。 动态SQL是指根据参数数据动态组织SQL的技术。 生活中的案例: 在京东上买东西时,用户搜索商品,可以选择筛选条件,比如品牌,价格,材质等,也可以不使用筛选条件。这时…...

旅行社项目展示微信小程序功能模块和开发流程

旅行社当前旅游线路的程序(微信小程序),旨在帮助旅行社更高效地管理线下活动预订,同时为客户提供便捷的报名和查看功能。适用于短途游、团队建设等活动,支持在线预订、缴费及订单管理,可根据用户需求定制更多个性化服务,为公司提升品牌知名度与客户体验。通过简洁明了的…...

litemall,又一个小商场系统

litemall Spring Boot后端 Vue管理员前端 微信小程序用户前端 Vue用户移动端 代码地址:litemall: 又一个小商城。 litemall Spring Boot后端 Vue管理员前端 微信小程序用户前端 Vue用户移动端...

WGCLOUD监控系统部署教程

官网地址:下载WGCLOUD安装包 - WGCLOUD官网 第一步、环境配置 #安装jdk 1、安装 EPEL 仓库: sudo yum install -y epel-release 2、安装 OpenJDK 11: sudo yum install java-11-openjdk-devel 3、如果成功,你可以通过运行 java …...

Python大数据可视化:基于Python的王者荣耀战队的数据分析系统设计与实现_flask+hadoop+spider

开发语言:Python框架:flaskPython版本:python3.7.7数据库:mysql 5.7数据库工具:Navicat11开发软件:PyCharm 系统展示 管理员登录 管理员功能界面 比赛信息管理 看板展示 系统管理 摘要 本文使用Python与…...

(苍穹外卖)项目结构

苍穹外卖项目结构 后端工程基于 maven 进行项目构建,并且进行分模块开发。 1). 用 IDEA 打开初始工程,了解项目的整体结构: 对工程的每个模块作用说明: 序号名称说明1sky-take-outmaven父工程,统一管理依赖版本&…...

ASP.NET Core筛选器Filter

目录 什么是Filter? Exception Filter 实现 注意 ActionFilter 注意 案例:自动启用事务的筛选器 事务的使用 TransactionScopeFilter的使用 什么是Filter? 切面编程机制,在ASP.NET Core特定的位置执行我们自定义的代码。…...

ChatGPT怎么回事?

纯属发现,调侃一下~ 这段时间deepseek不是特别火吗,尤其是它的推理功能,突发奇想,想用deepseek回答一些问题,回答一个问题之后就回复服务器繁忙(估计还在被攻击吧~_~) 然后就转向了GPT&#xf…...

软件工程-可行性研究

包含 技术可行性 使用现有技术能实现这个系统吗? 经济可行性 这个系统的经济效益能超过它的开发成本吗? 操作可行性 系统的操作方式在这个用户组织内行得通吗? 必要时还应该从法律、社会效益等更广泛的方面研究每种解法的可行性 可行性…...

基于算法竞赛的c++编程(28)结构体的进阶应用

结构体的嵌套与复杂数据组织 在C中,结构体可以嵌套使用,形成更复杂的数据结构。例如,可以通过嵌套结构体描述多层级数据关系: struct Address {string city;string street;int zipCode; };struct Employee {string name;int id;…...

【网络】每天掌握一个Linux命令 - iftop

在Linux系统中,iftop是网络管理的得力助手,能实时监控网络流量、连接情况等,帮助排查网络异常。接下来从多方面详细介绍它。 目录 【网络】每天掌握一个Linux命令 - iftop工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景…...

springboot 百货中心供应链管理系统小程序

一、前言 随着我国经济迅速发展,人们对手机的需求越来越大,各种手机软件也都在被广泛应用,但是对于手机进行数据信息管理,对于手机的各种软件也是备受用户的喜爱,百货中心供应链管理系统被用户普遍使用,为方…...

基于ASP.NET+ SQL Server实现(Web)医院信息管理系统

医院信息管理系统 1. 课程设计内容 在 visual studio 2017 平台上,开发一个“医院信息管理系统”Web 程序。 2. 课程设计目的 综合运用 c#.net 知识,在 vs 2017 平台上,进行 ASP.NET 应用程序和简易网站的开发;初步熟悉开发一…...

相机Camera日志实例分析之二:相机Camx【专业模式开启直方图拍照】单帧流程日志详解

【关注我,后续持续新增专题博文,谢谢!!!】 上一篇我们讲了: 这一篇我们开始讲: 目录 一、场景操作步骤 二、日志基础关键字分级如下 三、场景日志如下: 一、场景操作步骤 操作步…...

循环冗余码校验CRC码 算法步骤+详细实例计算

通信过程:(白话解释) 我们将原始待发送的消息称为 M M M,依据发送接收消息双方约定的生成多项式 G ( x ) G(x) G(x)(意思就是 G ( x ) G(x) G(x) 是已知的)&#xff0…...

vscode(仍待补充)

写于2025 6.9 主包将加入vscode这个更权威的圈子 vscode的基本使用 侧边栏 vscode还能连接ssh? debug时使用的launch文件 1.task.json {"tasks": [{"type": "cppbuild","label": "C/C: gcc.exe 生成活动文件"…...

蓝桥杯 2024 15届国赛 A组 儿童节快乐

P10576 [蓝桥杯 2024 国 A] 儿童节快乐 题目描述 五彩斑斓的气球在蓝天下悠然飘荡,轻快的音乐在耳边持续回荡,小朋友们手牵着手一同畅快欢笑。在这样一片安乐祥和的氛围下,六一来了。 今天是六一儿童节,小蓝老师为了让大家在节…...

智能在线客服平台:数字化时代企业连接用户的 AI 中枢

随着互联网技术的飞速发展,消费者期望能够随时随地与企业进行交流。在线客服平台作为连接企业与客户的重要桥梁,不仅优化了客户体验,还提升了企业的服务效率和市场竞争力。本文将探讨在线客服平台的重要性、技术进展、实际应用,并…...

如何将联系人从 iPhone 转移到 Android

从 iPhone 换到 Android 手机时,你可能需要保留重要的数据,例如通讯录。好在,将通讯录从 iPhone 转移到 Android 手机非常简单,你可以从本文中学习 6 种可靠的方法,确保随时保持连接,不错过任何信息。 第 1…...