当前位置： 首页 > news >正文

Open WebUI + openai API / vllm API ，实战部署教程

news 2026/5/12 17:12:10

介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796

介绍vllm 的使用：https://www.dong-blog.fun/post/1781

介绍 Ollama 的使用： https://www.dong-blog.fun/post/1797

本篇博客玩个花的，Open WebUI 本身可以兼容openai 的api， 那来尝试一下。

仅供 OpenAI API 使用安装

如果您仅使用 OpenAI API，请使用此命令：

# 我当前在宿主机目录 /ssd/xiedongmkdir openwebui-testcd openwebui-test# 下面这个指令，换为自己的绝对路径挂进去
docker run -d --ipc=host -p 8081:8080 --gpus=all <

相关文章：

Open WebUI + openai API / vllm API ，实战部署教程

介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796 介绍vllm 的使用：https://www.dong-blog.fun/post/1781 介绍 Ollama 的使用： https://www.dong-blog.fun/post/1797 本篇博客玩个花的，Open WebUI 本身可以兼容openai 的api， 那来尝试一下。 仅供…...

编程日记 2024/10/31 17:56:41

InsuranceclaimsController

目录 1、 InsuranceclaimsController 1.1、 保险理赔结算 1.2、 生成预约单号 1.3、 保存索赔表 InsuranceclaimsController using QXQPS.Models; using QXQPS.Vo; using System; using System.Collections; using System.Collections.Generic; using System.Li…...

编程日记 2024/10/31 17:55:40

如何成为开源代码库Dify的contributor：解决issue并提交PR

前言 Dify 是一个开源的大语言模型&#xff08;LLM&#xff09;应用开发平台&#xff0c;它融合了后端即服务&#xff08;Backend as Service&#xff09;和LLMOps的理念&#xff0c;旨在简化和加速生成式AI应用的创建和部署。Dify提供了一个用户友好的界面和一系列强大的工具…...

编程日记 2024/10/31 17:53:38

SQL进阶技巧：巧用异或运算解决经典换座位问题

目录 0 问题描述 1 数据准备 2 问题分析 2.1 什么是异或 2.2异或有什么特性？ 2.3 异或应用 2.4 本问题采用异或SQL解决方案 3 小结 0 问题描述 表 seat中有2个字段id和student id 是该表的主键（唯一值）列,student表示学生姓名。 该表的每一行都表示学生的姓名和 ID。…...

编程日记 2024/10/31 17:50:32

【MySQL】 运维篇—数据库监控：使用MySQL内置工具（如SHOW命令、INFORMATION_SCHEMA）进行监控

随着应用程序的增长&#xff0c;数据库的性能和稳定性变得至关重要。监控数据库的状态和性能可以帮助数据库管理员&#xff08;DBA&#xff09;及时发现问题&#xff0c;进行故障排查&#xff0c;并优化数据库的运行效率。通过监控工具&#xff0c;DBA可以获取实时的性能指标、…...

编程日记 2024/10/31 17:49:32

【温酒笔记】DMA

参考文档&#xff1a;野火STM32F103 1. Direct Memory Access-直接内存访问 DMA控制器独立于内核 是一个单独的外设 DMA1有7个通道DMA2有5个通道DMA有四个等级&#xff0c;非常高&#xff0c;高&#xff0c;中&#xff0c;低四个优先级如果优先等级相同&#xff0c;通道编号越…...

编程日记 2024/10/31 17:47:29

力扣判断字符是否唯一(位运算)

文章目录 给一个数n,判断它的二进制位中第x位是0还是1(从0开始计数)将一个数n的二进制位第X位修改为1(从0开始计数)将一个数n的二进制第x位修改为0(从0开始计数)提取一个数n二进制中最右侧的1去掉一个数n二进制表示中最右侧的1 今天我们通过判断字符是否唯一这个题来了解位运算…...

编程日记 2024/10/31 17:45:26

GPU和CPU区别？为什么挖矿、大模型都用GPU？

GPU(图形处理单元)和CPU(中央处理单元)是计算机中两种不同类型的处理器&#xff0c;它们在设计和功能上有很大的区别。 CPU是计算机的大脑&#xff0c;专门用于执行各种通用任务&#xff0c;如操作系统管理、数据处理、多任务处理等。它的架构设计旨在适应多种任务&#xff0c…...

编程日记 2024/10/31 17:44:25

新兴斗篷cloak技术，你了解吗？

随着互联网技术的飞速发展&#xff0c;网络营销领域也经历了翻天覆地的变革。 从最早的网络横幅广告到如今主流的搜索引擎和社交媒体营销&#xff0c;广告形式变得越来越多样。 其中&#xff0c;搜索引擎广告一直以其精准投放而备受青睐&#xff0c;但近年来&#xff0c;一项名…...

编程日记 2024/10/31 17:43:23

【抽代复习笔记】34-群（二十八）：不变子群的几道例题

例1&#xff1a;证明&#xff0c;交换群的任何子群都是不变子群。 证&#xff1a;设(G,o)是交换群&#xff0c;H≤G&#xff0c; 对任意的a∈G&#xff0c;显然都有aH {a o h|h∈H} {h o a|h∈H} Ha。 所以H⊿G。 【注&#xff1a;规范的不变子群符号是一个顶角指向左边…...

编程日记 2024/10/31 17:41:19

Chrome和Firefox如何保护用户的浏览数据

在当今数字化时代&#xff0c;保护用户的浏览数据变得尤为重要。浏览器作为我们日常上网的主要工具&#xff0c;其安全性直接关系到个人信息的保密性。本文将详细介绍Chrome和Firefox这两款主流浏览器如何通过一系列功能来保护用户的浏览数据。&#xff08;本文由https://chrom…...

编程日记 2024/10/31 17:40:17

CentOS 7镜像下载

新版本系统镜像下载&#xff08;当前最新是CentOS 7.4版本&#xff09; CentOS官网 官网地址 http://isoredirect.centos.org/centos/7.4.1708/isos/x86_64/ http://mirror.centos.org/centos/7/isos/ 国内的华为云&#xff0c;超级快&#xff1a;https://mirrors.huaweiclou…...

编程日记 2024/10/31 17:35:12

opencv-windows-cmake-Mingw-w64,编译opencv源码

Windows_MinGW_64_OpenCV在线编译动态库,并使用在C项目: (mingw-w64 cmakegithub actions方案) 修改版opencv在线编译: 加入opencv-contrib库, 一起编译生成动态库,在线编译好的opencv动态库,可以下载使用.验证opencv动态库是否可用的模板项目,测试opencv动态库是否可用的模板…...

编程日记 2024/10/31 17:33:08

Puppeteer点击系统：解锁百度流量点击率提升的解决案例

在数字营销领域&#xff0c;流量和搜索引擎优化&#xff08;SEO&#xff09;是提升网站可见性的关键。我开发了一个基于Puppeteer的点击系统&#xff0c;旨在自动化地提升百度流量点击率。本文将介绍这个系统如何通过模拟真实用户行为&#xff0c;优化关键词排名&#xff0c;并…...

编程日记 2024/10/31 17:31:06

Kyber原理解析

Kyber是一种IND-CCA2安全的密钥封装机制。Kyber的安全性基于在模格&#xff08;MLWE问题&#xff09;中解决LWE问题的难度。Kyber的构造采⽤两阶段⽅法&#xff1a;⾸先介绍⼀种⽤来加密固定32字节⻓度的消息原⽂的IND-CPA安全性的公钥加密⽅案&#xff0c;我们称之为 CPAPKE&a…...

编程日记 2024/10/31 17:30:05

2024 CCF CSP-J/S 2024 第二轮认证 真题试卷

2024年信息学奥赛CSP-J2入门级复赛真题试卷 题目总数&#xff1a;4 总分数&#xff1a;400 编程题 第 1 题 问答题 扑克牌(poker) 【题目描述】 小 P 从同学小 Q 那儿借来一副 n 张牌的扑克牌。 本题中我们不考虑大小王&#xff0c;此时每张牌具有两个属性:花色和…...

编程日记 2024/10/31 17:28:02

Android 无障碍服务常见问题梳理

android 无障碍服务本意是为了帮助盲人操作手机而设计&#xff0c;但是现在也有人利用这个做自动化操作。 本片文章讲述的主要用作自动化方面。 官方文档 关于配置方法和接口列表&#xff0c;参考 无障碍 比较常用的接口&#xff1a; 1. 执行点击操作 2. 触摸屏幕&#xf…...

编程日记 2024/10/31 17:27:00

Milvus 与 Faiss：选择合适的向量数据库

向量数据库 Milvus 和 Faiss 都是处理大规模向量数据的工具&#xff0c;尤其适用于需要相似性搜索的场景&#xff0c;比如推荐系统、图像检索和自然语言处理等。但它们各自的设计初衷和功能有所不同&#xff0c;适用于不同的使用场景。下面&#xff0c;我们从性能、功能特性、部…...

编程日记 2024/10/31 17:23:56

2024最全CTF入门指南、CTF夺旗赛及刷题网站（建议收藏！）

文章目录 一、赛事介绍二、竞赛模式三、CTF各大题型简介四、赛题情况分析CTF 工具集合Web | Web 安全&#x1f578; MISC | 杂项❆ 基础工具❆ 解题工具❆ 开源脚本&#x1f511; Crypto | 密码学 &#x1f4ab; Reverse | 逆向基础工具&#x1f4a5; PWN | 二进制 &#x1f44…...

编程日记 2024/10/31 17:21:54

【论文阅读】ESRGAN+

学习资料 论文题目&#xff1a;进一步改进增强型超分辨率生成对抗网络&#xff08;ESRGAN : FURTHER IMPROVING ENHANCED SUPER-RESOLUTION GENERATIVE ADVERSARIAL NETWORK&#xff09;论文地址&#xff1a;2001.08073代码&#xff1a;ncarraz/ESRGANplus&#xff1a; ICASSP …...

编程日记 2024/10/31 17:16:46

国标通气帽、DN200通气帽与市政管道通气帽怎么选？

我第一次接触通气帽这玩意儿&#xff0c;是在一个闷热的下午。工地上尘土飞扬&#xff0c;师傅递给我一个金属罩子&#xff0c;说&#xff1a;“这是通气用的&#xff0c;别小看它。”我当时还纳闷&#xff1a;不就是个帽子嘛&#xff0c;能有多大讲究&#xff1f;后来才明白&a…...

编程新知 2026/5/12 16:42:32

TEdit地图编辑器：从新手到专家的泰拉瑞亚世界创作指南

TEdit地图编辑器&#xff1a;从新手到专家的泰拉瑞亚世界创作指南 【免费下载链接】Terraria-Map-Editor TEdit - Terraria Map Editor - TEdit is a stand alone, open source map editor for Terraria. It lets you edit maps just like (almost) paint! It also lets you ch…...

编程新知 2026/5/12 15:50:12

3分钟掌握跨平台鼠标连点器：免费开源自动化工具快速上手指南

3分钟掌握跨平台鼠标连点器&#xff1a;免费开源自动化工具快速上手指南 【免费下载链接】MouseClick &#x1f5b1;️ MouseClick &#x1f5b1;️ 是一款功能强大的鼠标连点器和管理工具&#xff0c;采用 QT Widget 开发 &#xff0c;具备跨平台兼容性 。软件界面美观 &#…...

编程新知 2026/5/12 14:44:01

如何快速解决Funannotate数据库安装失败：终极完整指南

如何快速解决Funannotate数据库安装失败&#xff1a;终极完整指南 【免费下载链接】funannotate Eukaryotic Genome Annotation Pipeline 项目地址: https://gitcode.com/gh_mirrors/fu/funannotate Funannotate作为一款强大的真核生物基因组注释流程工具&#xff0c;其…...

编程新知 2026/5/12 14:11:53

管理幅度怎样设置才合理？

https://mp.weixin.qq.com/s/aoUgKUmsOUyC7wWOONMIIw...

编程新知 2026/5/12 14:09:47

免费开源！3分钟让Mac鼠标滚动告别卡顿的终极平滑方案

免费开源&#xff01;3分钟让Mac鼠标滚动告别卡顿的终极平滑方案 【免费下载链接】Mos 一个用于在 macOS 上平滑你的鼠标滚动效果或单独设置滚动方向的小工具, 让你的滚轮爽如触控板 | A lightweight tool used to smooth scrolling and set scroll direction independently fo…...

编程新知 2026/5/12 12:53:11

独立开发者如何利用 Taotoken 的模型广场为不同产品功能匹配合适模型

&#x1f680; 告别海外账号与网络限制&#xff01;稳定直连全球优质大模型&#xff0c;限时半价接入中。 &#x1f449; 点击领取海量免费额度 独立开发者如何利用 Taotoken 的模型广场为不同产品功能匹配合适模型 对于独立开发者而言&#xff0c;运营多个小型产品是常态。这…...

编程新知 2026/5/12 11:56:44

AutoDock-Vina终极指南：快速掌握分子对接的完整教程

AutoDock-Vina终极指南&#xff1a;快速掌握分子对接的完整教程 【免费下载链接】AutoDock-Vina AutoDock Vina 项目地址: https://gitcode.com/gh_mirrors/au/AutoDock-Vina AutoDock-Vina是一款开源的分子对接工具&#xff0c;专门用于模拟小分子&#xff08;配体&…...

编程新知 2026/5/12 11:39:20

CANopen协议核心机制与工业自动化应用实践

1. CANopen协议的核心机制解析 CANopen协议作为工业自动化领域的通信标准&#xff0c;其核心在于三个关键机制&#xff1a;对象字典、网络管理&#xff08;NMT&#xff09;以及过程数据对象&#xff08;PDO&#xff09;/服务数据对象&#xff08;SDO&#xff09;。理解这些机制…...

编程新知 2026/5/12 9:45:01

GKD第三方订阅管理解决方案：如何实现订阅标准化管理与90%可用性提升

GKD第三方订阅管理解决方案&#xff1a;如何实现订阅标准化管理与90%可用性提升 【免费下载链接】GKD_THS_List GKD第三方订阅收录名单 项目地址: https://gitcode.com/gh_mirrors/gk/GKD_THS_List 面对Android自动化工具GKD日益增长的第三方订阅管理需求&#xff0c;开…...

编程新知 2026/5/12 9:45:01