开源大模型本地私有化部署
1、安装ollama
ollma下载
https://ollama.com/download/windows
linux 安装
curl -fsSL https://ollama.com/install.sh | sh
运行
ollama run gemma:2b
ollama run gemma:7b
使用端口11434
2、下载 open-webui 代码
https://github.com/open-webui/open-webui.git
生成目录open-webui
docker 运行open-webui 代码
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_API_BASE_URL=http://127.0.0.1:11434/api --name open-webui --restart always ghcr.io/open-webui/open-webui:main
相关文章：
开源大模型本地私有化部署
1、安装ollama ollma下载 https://ollama.com/download/windows linux 安装 curl -fsSL https://ollama.com/install.sh | sh 运行 ollama run gemma:2b ollama run gemma:7b 使用端口11434 2、下载 open-webui 代码 https://github.com/open-webui/open-webui.git 生成目录…...
站长为什么要搭建个人博客网站
搭建个人博客网站是一个值得考虑的选择，它不仅有助于个人成长，还能在多个方面带来积极的影响。以下是几个主要的理由： 一、记录与备忘 方便回顾与查阅：博客网站成为了一个个人知识库，记录下来的内容方便后续查阅和回顾…...
Golang | Leetcode Golang题解之第355题设计推特
题目： 题解： type Twitter struct {Tweets []intUserTweets map[int][]intFollows map[int][]intIsFollowMy map[int]bool }/** Initialize your data structure here. */ func Constructor() Twitter {// 每一次实例化的时候，都重新分配一次…...
Redis如何实现发布/订阅？
引言 Redis是一款高性能的内存数据存储系统，除了常用的键值存储功能外，还提供了发布/订阅（Pub/Sub）机制。通过发布/订阅机制，Redis可以实现消息的广播或者实时通知功能，是一种非常有用的功能。 本文将详细…...
EmguCV学习笔记 VB.Net 4.4 图像形态学
版权声明：本文为博主原创文章，转载请在显著位置标明本文出处以及作者网名，未经作者允许不得用于商业目的。 教程VB.net版本请访问：EmguCV学习笔记 VB.Net 目录-CSDN博客 教程C#版本请访问：EmguCV学习笔记 C# 目录-CSD…...
HarmonyOS 开发
环境 下载IDE 代码 import { hilog } from kit.PerformanceAnalysisKit; import testNapi from libentry.so; import { router } from kit.ArkUI; import { common, Want } from kit.AbilityKit;Entry Component struct Index {State message: string Hello HarmonyOS!;p…...
拒绝拖延！Kimi助你一天内速成论文初稿！
撰写学术论文是一项需要周密计划和精确执行的任务。它要求作者对文章的每个部分进行深入思考，以确保论文结构的合理性和论述的清晰度。利用Kimi的功能，我们可以更系统地进行写作，从构思到最终成稿，逐步构建出一篇高质量的学术论文…...
Python画笔案例-005 绘制迷宫
1、绘制迷宫 通过 python 的turtle 库绘制一个迷宫的图案，如下图： 2、实现代码 从图上可以看出，内测最短的竖线开始，每次右转 90 度后，线段都增加 8 个单位，所以我们是用 for 循环，循环 50 次…...
【鸿蒙学习】HarmonyOS应用开发者高级认证 - 应用性能优化二（代码层面）
学完时间：2024年8月22日 学完排名：第1801名 一、长列表优化概述 列表是应用开发中最常见的一类开发场景，它可以将杂乱的信息整理成有规律、易于理解和操作的形式，便于用户查找和获取所需要的信息。应用程序中常见的列表场景有新…...
【Docker】如何将A机器内的镜像，导入到B机器？
由于网络或者仓库的原因，经常遇到pull拉取镜像失败的情况！！ 那么，如何将A机器内的镜像，通过命令，导入到B机器？ 两条重要的命令： 1，在已经成功拉取pull的机器上执行命令…...
动手实现基于Reactor模型的高并发Web服务器（一）：epoll+多线程版本
系统流程概览 main函数 对于一个服务器程序来说，因为要为外部的客户端程序提供网络服务，也就是进行数据的读写，这就必然需要一个 socket 文件描述符，只有拥有了文件描述符 C/S 两端才能通过 socket 套接字进行网络通信࿰…...
爬虫案例4——爬取房天下数据
简介：个人学习分享，如有错误，欢迎批评指正 任务：从房天下网中爬取小区名称、地址、价格和联系电话 目标网页地址：https://newhouse.fang.com/house/s/ 一、思路和过程 目标网页具体内容如下： …...
网络硬盘录像机NVR程序源码NVR全套运用方案
在当今社会，随着科技的飞速发展和人们对安全需求的日益增长，安防监控系统已成为保障公共安全、维护社会稳定的重要手段。其中，网络视频录像机（NVR）作为安防监控系统的核心设备，其智能化升级运用方案对于提高…...
03：电容的充放电特性及应用举例
1.电容的基本特性：电容两端的电压不能突变 2.影响电容两端电压的参数：整个回路中电阻，电容大小 3.如何计算电容的电压变化时间？ τRC R1k C1uF 则得到τ1ms的时间 应用：芯片使能延时...
【专题】2023-2024中国游戏企业研发竞争力报告合集PDF分享（附原数据表）
原文链接： https://tecdat.cn/?p37447 在当今的数字时代，游戏产业已然成为经济与文化领域中一股不可忽视的重要力量。2023 年，中国自研游戏市场更是呈现出一片繁荣且复杂的景象，实际销售收入达到了令人瞩目的 2563.8 亿元&#x…...
会话跟踪方案：Cookie Session Token
什么是会话技术？ Cookie 以登录为例，用户在浏览器中将账号密码输入并勾选自动登录，浏览器发送请求，请求头中设置Cookie：userName:张三 ,password:1234aa ，若登录成功，服务器将这个cookie保存…...
jemeter压力测试入门
1. 安装jemeter的压缩包并且解压 点击运行 2. 添加线程组 3. 线程组的参数设置 4. 添加http请求 5. 填写请求信息 添加监听器——结果树（结果），聚合报告（吞吐量报告） 6. 通过cvs数据文件设置，配置元件&…...
SpringBoot3 简单集成 Spring AI 并使用
文章目录 准备JDK17api key 创建项目编写配置文件创建controller启动并测试角色预设流式响应\异步响应ChatModel（聊天模型）ImageModel（文生图）文生语音语言翻译多模态Function Calling （函数调用第三方API）…...
【C/C++】程序设计基础知识（数据类型与表达式、控制语句、数组与结构）
【C/C】程序设计基础知识（数据类型与表达式、控制语句、数组与结构） 一、数据类型与表达式1.1C语言符号1.2C语言运算符1.3数据类型1.4常量与变量1.5基本运算1.6优先级和结合性1.7输入与输出 二、控制语句2.1顺序结构2.2选择结构2.3循环结构2.4break,cont…...
python库——sklearn的关键组件和参数设置
文章目录 模型构建线性回归逻辑回归决策树分类器随机森林支持向量机K-近邻 模型评估交叉验证性能指标 特征工程主成分分析标准化和归一化 scikit-learn，简称sklearn，是Python中一个广泛使用的机器学习库，它建立在NumPy、SciPy和Matplotlib这些…...
idea大量爆红问题解决
问题描述 在学习和工作中，idea是程序员不可缺少的一个工具，但是突然在有些时候就会出现大量爆红的问题，发现无法跳转，无论是关机重启或者是替换root都无法解决 就是如上所展示的问题，但是程序依然可以启动。 问题解决…...
零门槛NAS搭建：WinNAS如何让普通电脑秒变私有云？
一、核心优势：专为Windows用户设计的极简NAS WinNAS由深圳耘想存储科技开发，是一款收费低廉但功能全面的Windows NAS工具，主打“无学习成本部署” 。与其他NAS软件相比，其优势在于： 无需硬件改造：将任意W…...
应用升级/灾备测试时使用guarantee 闪回点迅速回退
1.场景 应用要升级,当升级失败时,数据库回退到升级前. 要测试系统,测试完成后,数据库要回退到测试前。 相对于RMAN恢复需要很长时间， 数据库闪回只需要几分钟。 2.技术实现 数据库设置 2个db_recovery参数 创建guarantee闪回点，不需要开启数据库闪回。…...
Cesium1.95中高性能加载1500个点
一、基本方式： 图标使用.png比.svg性能要好 <template><div id"cesiumContainer"></div><div class"toolbar"><button id"resetButton">重新生成点</button><span id"countDisplay&qu…...
使用分级同态加密防御梯度泄漏
抽象 联邦学习 （FL） 支持跨分布式客户端进行协作模型训练，而无需共享原始数据，这使其成为在互联和自动驾驶汽车 （CAV） 等领域保护隐私的机器学习的一种很有前途的方法。然而，最近的研究表明&…...
AtCoder 第409场初级竞赛 A~E题解
A Conflict 【题目链接】 原题链接：A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串，只有在同时为 o 时输出 Yes 并结束程序，否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...
拉力测试cuda pytorch 把 4070显卡拉满
import torch import timedef stress_test_gpu(matrix_size16384, duration300):"""对GPU进行压力测试，通过持续的矩阵乘法来最大化GPU利用率参数:matrix_size: 矩阵维度大小，增大可提高计算复杂度duration: 测试持续时间（秒&…...
【HTTP三个基础问题】
面试官您好！HTTP是超文本传输协议，是互联网上客户端和服务器之间传输超文本数据（比如文字、图片、音频、视频等）的核心协议，当前互联网应用最广泛的版本是HTTP1.1，它基于经典的C/S模型，也就是客…...
多模态大语言模型arxiv论文略读（108）
CROME: Cross-Modal Adapters for Efficient Multimodal LLM ➡️ 论文标题：CROME: Cross-Modal Adapters for Efficient Multimodal LLM ➡️ 论文作者：Sayna Ebrahimi, Sercan O. Arik, Tejas Nama, Tomas Pfister ➡️ 研究机构: Google Cloud AI Re…...
Redis的发布订阅模式与专业的 MQ（如 Kafka, RabbitMQ）相比，优缺点是什么？适用于哪些场景？
Redis 的发布订阅（Pub/Sub）模式与专业的 MQ（Message Queue）如 Kafka、RabbitMQ 进行比较，核心的权衡点在于：简单与速度 vs. 可靠与功能。 下面我们详细展开对比。 Redis Pub/Sub 的核心特点 它是一个发后…...