当前位置: 首页 > news >正文

本地部署DeepSeek R1 + 界面可视化open-webui【ollama容器+open-webui容器】

本地部署DeepSeek R1 + 界面可视化open-webui

本文主要讲述如何用ollama镜像和open-webui镜像部署DeepSeek R1, 镜像比较方便我们在各个机器之间快速部署。

显卡推荐

模型版本CPU内存GPU显卡推荐
1.5B4核+8GB+非必需4GB+RTX1650、RTX2060
7B、8B8核+16GB+8GB+RTX3070、RTX4060
14B12核+32GB+16GB+RTX4090、RTX5080
32B16核+64GB+24GB+A100 40GB
70B32核+128GB+多卡2×A100 80GB
671B64核+512GB+多卡8×A100/H100

以上配置仅供参考

安裝部署ollama镜像

进入 ollama镜像官网 | https://hub.docker.com/r/ollama/ollama,选择Download
在这里插入图片描述
镜像是部署在ubuntu系统上的,请确保已经安装好docker和NVIDIA Container Toolkit等系统环境。

拉取启动镜像

创建一个目录,用来保存ollama下载下来的模型

mkdir -p ollama/data
cd ollama/

只有CPU的情况下:

sudo docker run -d -v ./data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

有GPU的情况下:

sudo docker run -d --gpus=all -v ./data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

制作成docker-compose 文件管理镜像

version: '3.8'services:ollama:image: ollama/ollamacontainer_name: ollamarestart: alwaysvolumes:- ./data:/root/.ollamaports:- "11434:11434"

安裝部署open-webui镜像

  • Open WebUI Github
  • Open WebUI Document
echo 'export OLLAMA_HOST=0.0.0.0' >> ~/.bashrc
source ~/.bashrc

拉取并启动镜像

  • 启动
    docker会先拉取镜像,再启动
sudo docker run --network=host -v /work/open-webui/open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

制作成docker-compose 文件管理镜像

version: '3.8'services:open-webui:image: ghcr.io/open-webui/open-webui:maincontainer_name: open-webuirestart: alwaysnetwork_mode: hostvolumes:- /work/open-webui/open-webui:/app/backend/dataenvironment:- OLLAMA_BASE_URL=http://127.0.0.1:11434# Optionally add ports or other configurations if neededports:- "8080:8080"

启动镜像

sudo docker-compose up

进入设置界面,配置ollama服务地址
在这里插入图片描述
链接过程中遇到故障 服务器连接问题

下载模型

进入到 open-webui的主页,点击 + 号,添加模型
在这里插入图片描述
搜索模型,输入deepseek-r1:32b,或其他版本的模型,下载模型需要等待,请耐心等待模型下载完整。
在这里插入图片描述

开始进入搜嘎模型:
在这里插入图片描述

END


在这里插入图片描述

相关文章:

本地部署DeepSeek R1 + 界面可视化open-webui【ollama容器+open-webui容器】

本地部署DeepSeek R1 界面可视化open-webui 本文主要讲述如何用ollama镜像和open-webui镜像部署DeepSeek R1, 镜像比较方便我们在各个机器之间快速部署。 显卡推荐 模型版本CPU内存GPU显卡推荐1.5B4核8GB非必需4GBRTX1650、RTX20607B、8B8核16GB8GBRTX3070、RTX…...

macOS部署DeepSeek-r1

好奇,跟着网友们的操作试了一下 网上方案很多,主要参考的是这篇 DeepSeek 接入 PyCharm,轻松助力编程_pycharm deepseek-CSDN博客 方案是:PyCharm CodeGPT插件 DeepSeek-r1:1.5b 假设已经安装好了PyCharm PyCharm: the Pyth…...

基于STM32与BD623x的电机控制实战——从零搭建无人机/机器人驱动系统

系列文章目录 1.元件基础 2.电路设计 3.PCB设计 4.元件焊接 5.板子调试 6.程序设计 7.算法学习 8.编写exe 9.检测标准 10.项目举例 11.职业规划 文章目录 一、为什么选择这两个芯片?1.1 STM32微控制器1.2 ROHM BD623x电机驱动 二、核心控制原理详解2.1 H桥驱动奥…...

基于ffmpeg+openGL ES实现的视频编辑工具-字幕添加(六)

在视频编辑领域,字幕的添加是一项极为重要的功能,它能够极大地丰富视频内容,提升观众的观看体验。当我们深入探究如何实现这一功能时,FreeType 开源库成为了强大助力。本文将详细阐述借助 FreeType 库生成字幕数据的过程,以及如何实现字幕的缩放、移动、旋转、颜色修改、对…...

C++中const T为什么少见?它有什么用途?

在C中,右值引用(T&&)是移动语义和完美转发的核心特性之一,但你是否注意到,const T&&(const右值引用)却很少被使用?它到底有什么用途? 今天我们就来深入…...

Leetcode 位计算

3095. 或值至少 K 的最短子数组 I 3097. Shortest Subarray With OR at Least K II class Solution:def minimumSubarrayLength(self, nums: List[int], k: int) -> int:n len(nums)bits [0] * 30res infdef calc(bits):return sum(1 << i for i in range(30) if…...

SpringBoot3.x整合WebSocket

SpringBoot3.x整合WebSocket 本文主要介绍最新springboot3.x下如何整合WebSocket. WebSocket简述 WebSocket 是一种在单个 TCP 连接上进行全双工通信的协议&#xff0c;它允许在浏览器和服务器之间进行实时的、双向的通信。相对于传统的基于请求和响应的 HTTP 协议&#xff…...

猿大师办公助手对比其他WebOffice在线编辑Office插件有什么优势

1. 原生Office功能完整嵌入&#xff0c;排版一致性保障 猿大师办公助手直接调用本地安装的微软Office、金山WPS或永中Office&#xff0c;支持所有原生功能&#xff08;如复杂公式、VBA宏等&#xff09;&#xff0c;确保网页编辑与本地打开的文档排版完全一致。 提供OLE嵌入和完…...

STM32创建静态库lib

创建静态库lib 1. 新建工程1.1 创建工程文件夹1.2 编写用户相关代码1.2.1 stm32f4xx_it.h1.2.2 stm32f4xx_it.c1.2.3 标准库配置&#xff1a;stm32f4xx_conf.h1.2.4 HAL库的配置&#xff1a;stm32f4xx_hal_conf.h1.2.5 LL库配置&#xff1a;stm32f4xx_ll_conf.h 1.3 移植通用文…...

Hive JOIN过滤条件位置玄学:ON vs WHERE的量子纠缠

Hive JOIN过滤条件位置玄学:ON vs WHERE的量子纠缠 作为数据工程师,Hive JOIN就像吃火锅选蘸料——放错位置味道全变!今天带你破解字节/阿里等大厂高频面试题:ON和WHERE后的过滤条件究竟有什么不同? 一、核心差异对比表 特性ON子句WHERE子句执行时机JOIN操作时JOIN完成后…...

MAC快速本地部署Deepseek (win也可以)

MAC快速本地部署Deepseek (win也可以) 下载安装ollama 地址: https://ollama.com/ Ollama 是一个开源的大型语言模型&#xff08;LLM&#xff09;本地运行框架&#xff0c;旨在简化大模型的部署和管理流程&#xff0c;使开发者、研究人员及爱好者能够高效地在本地环境中实验和…...

javaEE-13.spring MVC

目录 什么是spring web mvc: 什么是MVC: 一.创建一个spring项目 二.实现功能: 创建helloController.java项目: 建立连接&#xff1a; RequestMapping注解: 1.RequestMapping注解的使用&#xff1a; 2. RequestMapping 是GET还是POST请求 3.指定请求方法 RestControll…...

C/C++ | 每日一练 (2)

&#x1f4a2;欢迎来到张胤尘的技术站 &#x1f4a5;技术如江河&#xff0c;汇聚众志成。代码似星辰&#xff0c;照亮行征程。开源精神长&#xff0c;传承永不忘。携手共前行&#xff0c;未来更辉煌&#x1f4a5; 文章目录 C/C | 每日一练 (2)题目参考答案封装继承多态虚函数底…...

Nginx 常用命令和部署详解及案例示范

一、Nginx常用命令 1.1 启动 Nginx 要启动 Nginx 服务&#xff0c;可以使用以下命令&#xff1a; sudo systemctl start nginx1.2 停止 Nginx 如果需要停止 Nginx 服务&#xff0c;可以使用以下命令&#xff1a; sudo systemctl stop nginx1.3 重启 Nginx 在修改了 Nginx…...

GO大模型应用开发框架-

Eino 旨在提供基于 Golang 语言的终极大模型应用开发框架。 它从开源社区中的诸多优秀 LLM 应用开发框架&#xff0c;如 LangChain 和 LlamaIndex 等获取灵感&#xff0c;同时借鉴前沿研究成果与实际应用&#xff0c;提供了一个强调简洁性、可扩展性、可靠性与有效性&#xff0…...

保姆级!springboot访问Ollama API并调用DeepSeek模型 Api

要在springboot中访问Ollama API并调用DeepSeek模型,你需要遵循以下步骤。首先,确保你有一个有效的Ollama服务器实例运行中,并且DeepSeek模型已经被加载。 可以参考我的这篇博客 保姆级!使用Ollama本地部署DeepSeek-R1大模型 并java通过api 调用 使用Spring Boot + Sprin…...

力扣hot100 ——搜索二维矩阵 || m+n复杂度优化解法

编写一个高效的算法来搜索 m x n 矩阵 matrix 中的一个目标值 target 。该矩阵具有以下特性&#xff1a; 每行的元素从左到右升序排列。每列的元素从上到下升序排列。 解题思路&#xff1a; 借助行和列有序特性&#xff0c;不断按行或者列缩小范围&#xff1b;途中数字表示每…...

娱乐使用,可以生成转账、图片、聊天等对话内容

软件介绍 今天要给大家介绍一款由吾爱大佬 lifeixue 开发的趣味软件。它的玩法超丰富&#xff0c;能够生成各式各样的角色&#xff0c;支持文字聊天、发红包、转账、发语音以及分享图片等多种互动形式&#xff0c;不过在分享前得着重提醒&#xff0c;此软件仅供娱乐&#xff0…...

【PyQt5】python可视化开发:PyQt5介绍,开发环境搭建快速入门

✨✨ 欢迎大家来到景天科技苑✨✨ &#x1f388;&#x1f388; 养成好习惯&#xff0c;先赞后看哦~&#x1f388;&#x1f388; &#x1f3c6; 作者简介&#xff1a;景天科技苑 &#x1f3c6;《头衔》&#xff1a;大厂架构师&#xff0c;华为云开发者社区专家博主&#xff0c;…...

使用 FFmpeg 剪辑视频指南

FFmpeg 是一个功能强大的多媒体处理工具&#xff0c;可以进行视频和音频的剪辑、合并、转码等操作。本文将详细介绍如何使用 FFmpeg 进行视频剪辑&#xff0c;并通过实例帮助你快速掌握剪辑技巧。我们会从最基础的剪切功能讲起&#xff0c;再延伸到一些高级操作&#xff0c;如指…...

量子启发KAN-LSTM:时序建模新架构解析

1. 量子启发的KAN-LSTM架构解析在时序建模领域&#xff0c;传统LSTM网络虽然表现出色&#xff0c;但其参数冗余和表达能力受限的问题一直困扰着从业者。我们团队提出的QKAN-LSTM架构&#xff0c;通过量子力学原理与传统深度学习的创新融合&#xff0c;为解决这些问题提供了全新…...

计算机毕业设计:Python股票投资辅助决策系统 django框架 request爬虫 协同过滤算法 数据分析 可视化 大数据 大模型(建议收藏)✅

博主介绍&#xff1a;✌全网粉丝10W&#xff0c;前互联网大厂软件研发、集结硕博英豪成立软件开发工作室&#xff0c;专注于计算机相关专业项目实战6年之久&#xff0c;累计开发项目作品上万套。凭借丰富的经验与专业实力&#xff0c;已帮助成千上万的学生顺利毕业&#xff0c;…...

云原生入门系列|第12集:K8s日常运维实战,新手也能稳管集群

前言 各位云原生入门的小伙伴,欢迎继续跟进《云原生入门系列》专栏!上一集我们掌握了K8s故障排查的核心方法,能快速定位并解决Pod、Service、存储等常见故障,避免业务中断。 但K8s的运维不止“排查故障”,更重要的是“日常管理”——就像养花草,不仅要在生病时治病,还…...

Sun-Panel:打造你的专属NAS门户,从零开始构建高效导航首页

1. 为什么你需要一个NAS导航首页&#xff1f; 每天打开电脑&#xff0c;第一件事就是面对浏览器里密密麻麻的书签栏——Jellyfin、Nextcloud、Bitwarden、Transmission...这些自建服务分散在不同的IP和端口上&#xff0c;记不住地址就得反复翻找记事本。更头疼的是&#xff0c;…...

实用高效的AutoHotkey脚本编译指南:轻松将AHK转换为EXE可执行文件

实用高效的AutoHotkey脚本编译指南&#xff1a;轻松将AHK转换为EXE可执行文件 【免费下载链接】Ahk2Exe Official AutoHotkey script compiler - written itself in AutoHotkey 项目地址: https://gitcode.com/gh_mirrors/ah/Ahk2Exe Ahk2Exe是AutoHotkey官方的脚本编译…...

新手小白初学SQL,不想被迫删库跑路 怎么办?

别笑&#xff0c;你也过不了第二关&#xff01;我是小耶&#xff0c;干运营半路出家的野生DBA——写功课只是为了我踩过的坑&#xff0c;你们别再踩啦&#xff01;学SQL第二周&#xff0c;想查一个数据。脑子里想的是SELECT&#xff0c;手指敲出来的是&#xff1a;DELETE FROM …...

2026年聚光投放五大增效策略,让每一分预算都精准转化

在数字广告投放领域摸爬滚打十年&#xff0c;我们团队在实践中发现&#xff0c;一个核心矛盾始终困扰着众多从业者&#xff1a;预算在持续增加&#xff0c;但转化成本却像无底洞般难以控制&#xff0c;精准度与效率的平衡成为遥不可及的理想。 无论是抖音、快手还是小红书平台&…...

SMAPI安卓安装器:如何让星露谷物语在手机上玩出PC版MOD体验?

SMAPI安卓安装器&#xff1a;如何让星露谷物语在手机上玩出PC版MOD体验&#xff1f; 【免费下载链接】SMAPI-Android-Installer SMAPI Installer for Android 项目地址: https://gitcode.com/gh_mirrors/smapi/SMAPI-Android-Installer 你是否曾经羡慕PC玩家能在星露谷物…...

Focal状态管理库终极指南:如何用响应式编程简化React应用开发

Focal状态管理库终极指南&#xff1a;如何用响应式编程简化React应用开发 【免费下载链接】focal Program user interfaces the FRP way. 项目地址: https://gitcode.com/gh_mirrors/fo/focal Focal是一个基于FRP&#xff08;函数式响应式编程&#xff09;理念的状态管理…...

若依项目踩坑记:表格里字典值显示成‘1’‘2’?教你两招彻底解决(附代码对比)

若依框架实战&#xff1a;表格字典值转换的深度解决方案 第一次在若依框架中构建用户管理模块时&#xff0c;我盯着屏幕上那一排排冰冷的数字代码陷入了沉思——为什么"用户状态"列显示的只有"1"和"0"&#xff0c;而不是期望中的"启用"…...