开源大模型本地私有化部署
1、安装ollama
ollma下载
https://ollama.com/download/windows
linux 安装
curl -fsSL https://ollama.com/install.sh | sh
运行
ollama run gemma:2b
ollama run gemma:7b
使用端口11434
2、下载 open-webui 代码
https://github.com/open-webui/open-webui.git
生成目录open-webui
docker 运行open-webui 代码
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_API_BASE_URL=http://127.0.0.1:11434/api --name open-webui --restart always ghcr.io/open-webui/open-webui:main
相关文章：
开源大模型本地私有化部署
1、安装ollama ollma下载 https://ollama.com/download/windows linux 安装 curl -fsSL https://ollama.com/install.sh | sh 运行 ollama run gemma:2b ollama run gemma:7b 使用端口11434 2、下载 open-webui 代码 https://github.com/open-webui/open-webui.git 生成目录…...
站长为什么要搭建个人博客网站
搭建个人博客网站是一个值得考虑的选择，它不仅有助于个人成长，还能在多个方面带来积极的影响。以下是几个主要的理由： 一、记录与备忘 方便回顾与查阅：博客网站成为了一个个人知识库，记录下来的内容方便后续查阅和回顾…...
Golang | Leetcode Golang题解之第355题设计推特
题目： 题解： type Twitter struct {Tweets []intUserTweets map[int][]intFollows map[int][]intIsFollowMy map[int]bool }/** Initialize your data structure here. */ func Constructor() Twitter {// 每一次实例化的时候，都重新分配一次…...
Redis如何实现发布/订阅？
引言 Redis是一款高性能的内存数据存储系统，除了常用的键值存储功能外，还提供了发布/订阅（Pub/Sub）机制。通过发布/订阅机制，Redis可以实现消息的广播或者实时通知功能，是一种非常有用的功能。 本文将详细…...
EmguCV学习笔记 VB.Net 4.4 图像形态学
版权声明：本文为博主原创文章，转载请在显著位置标明本文出处以及作者网名，未经作者允许不得用于商业目的。 教程VB.net版本请访问：EmguCV学习笔记 VB.Net 目录-CSDN博客 教程C#版本请访问：EmguCV学习笔记 C# 目录-CSD…...
HarmonyOS 开发
环境 下载IDE 代码 import { hilog } from kit.PerformanceAnalysisKit; import testNapi from libentry.so; import { router } from kit.ArkUI; import { common, Want } from kit.AbilityKit;Entry Component struct Index {State message: string Hello HarmonyOS!;p…...
拒绝拖延！Kimi助你一天内速成论文初稿！
撰写学术论文是一项需要周密计划和精确执行的任务。它要求作者对文章的每个部分进行深入思考，以确保论文结构的合理性和论述的清晰度。利用Kimi的功能，我们可以更系统地进行写作，从构思到最终成稿，逐步构建出一篇高质量的学术论文…...
Python画笔案例-005 绘制迷宫
1、绘制迷宫 通过 python 的turtle 库绘制一个迷宫的图案，如下图： 2、实现代码 从图上可以看出，内测最短的竖线开始，每次右转 90 度后，线段都增加 8 个单位，所以我们是用 for 循环，循环 50 次…...
【鸿蒙学习】HarmonyOS应用开发者高级认证 - 应用性能优化二（代码层面）
学完时间：2024年8月22日 学完排名：第1801名 一、长列表优化概述 列表是应用开发中最常见的一类开发场景，它可以将杂乱的信息整理成有规律、易于理解和操作的形式，便于用户查找和获取所需要的信息。应用程序中常见的列表场景有新…...
【Docker】如何将A机器内的镜像，导入到B机器？
由于网络或者仓库的原因，经常遇到pull拉取镜像失败的情况！！ 那么，如何将A机器内的镜像，通过命令，导入到B机器？ 两条重要的命令： 1，在已经成功拉取pull的机器上执行命令…...
动手实现基于Reactor模型的高并发Web服务器（一）：epoll+多线程版本
系统流程概览 main函数 对于一个服务器程序来说，因为要为外部的客户端程序提供网络服务，也就是进行数据的读写，这就必然需要一个 socket 文件描述符，只有拥有了文件描述符 C/S 两端才能通过 socket 套接字进行网络通信࿰…...
爬虫案例4——爬取房天下数据
简介：个人学习分享，如有错误，欢迎批评指正 任务：从房天下网中爬取小区名称、地址、价格和联系电话 目标网页地址：https://newhouse.fang.com/house/s/ 一、思路和过程 目标网页具体内容如下： …...
网络硬盘录像机NVR程序源码NVR全套运用方案
在当今社会，随着科技的飞速发展和人们对安全需求的日益增长，安防监控系统已成为保障公共安全、维护社会稳定的重要手段。其中，网络视频录像机（NVR）作为安防监控系统的核心设备，其智能化升级运用方案对于提高…...
03：电容的充放电特性及应用举例
1.电容的基本特性：电容两端的电压不能突变 2.影响电容两端电压的参数：整个回路中电阻，电容大小 3.如何计算电容的电压变化时间？ τRC R1k C1uF 则得到τ1ms的时间 应用：芯片使能延时...
【专题】2023-2024中国游戏企业研发竞争力报告合集PDF分享（附原数据表）
原文链接： https://tecdat.cn/?p37447 在当今的数字时代，游戏产业已然成为经济与文化领域中一股不可忽视的重要力量。2023 年，中国自研游戏市场更是呈现出一片繁荣且复杂的景象，实际销售收入达到了令人瞩目的 2563.8 亿元&#x…...
会话跟踪方案：Cookie Session Token
什么是会话技术？ Cookie 以登录为例，用户在浏览器中将账号密码输入并勾选自动登录，浏览器发送请求，请求头中设置Cookie：userName:张三 ,password:1234aa ，若登录成功，服务器将这个cookie保存…...
jemeter压力测试入门
1. 安装jemeter的压缩包并且解压 点击运行 2. 添加线程组 3. 线程组的参数设置 4. 添加http请求 5. 填写请求信息 添加监听器——结果树（结果），聚合报告（吞吐量报告） 6. 通过cvs数据文件设置，配置元件&…...
SpringBoot3 简单集成 Spring AI 并使用
文章目录 准备JDK17api key 创建项目编写配置文件创建controller启动并测试角色预设流式响应\异步响应ChatModel（聊天模型）ImageModel（文生图）文生语音语言翻译多模态Function Calling （函数调用第三方API）…...
【C/C++】程序设计基础知识（数据类型与表达式、控制语句、数组与结构）
【C/C】程序设计基础知识（数据类型与表达式、控制语句、数组与结构） 一、数据类型与表达式1.1C语言符号1.2C语言运算符1.3数据类型1.4常量与变量1.5基本运算1.6优先级和结合性1.7输入与输出 二、控制语句2.1顺序结构2.2选择结构2.3循环结构2.4break,cont…...
python库——sklearn的关键组件和参数设置
文章目录 模型构建线性回归逻辑回归决策树分类器随机森林支持向量机K-近邻 模型评估交叉验证性能指标 特征工程主成分分析标准化和归一化 scikit-learn，简称sklearn，是Python中一个广泛使用的机器学习库，它建立在NumPy、SciPy和Matplotlib这些…...
大话软工笔记—需求分析概述
需求分析，就是要对需求调研收集到的资料信息逐个地进行拆分、研究，从大量的不确定“需求”中确定出哪些需求最终要转换为确定的“功能需求”。 需求分析的作用非常重要，后续设计的依据主要来自于需求分析的成果，包括: 项目的目的…...
使用rpicam-app通过网络流式传输视频)
树莓派超全系列教程文档--(62)使用rpicam-app通过网络流式传输视频
使用rpicam-app通过网络流式传输视频 使用 rpicam-app 通过网络流式传输视频UDPTCPRTSPlibavGStreamerRTPlibcamerasrc GStreamer 元素 文章来源： http://raspberry.dns8844.cn/documentation 原文网址 使用 rpicam-app 通过网络流式传输视频 本节介绍来自 rpica…...
rknn优化教程（二）
文章目录 1. 前述2. 三方库的封装2.1 xrepo中的库2.2 xrepo之外的库2.2.1 opencv2.2.2 rknnrt2.2.3 spdlog 3. rknn_engine库 1. 前述 OK，开始写第二篇的内容了。这篇博客主要能写一下： 如何给一些三方库按照xmake方式进行封装，供调用如何按…...
k8s从入门到放弃之Ingress七层负载
k8s从入门到放弃之Ingress七层负载 在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...
循环冗余码校验CRC码 算法步骤+详细实例计算
通信过程：（白话解释） 我们将原始待发送的消息称为 M M M，依据发送接收消息双方约定的生成多项式 G ( x ) G(x) G(x)（意思就是 G （ x ) G（x) G（x) 是已知的）࿰…...
（二）TensorRT-LLM | 模型导出（v0.20.0rc3）
0. 概述 上一节 对安装和使用有个基本介绍。根据这个 issue 的描述，后续 TensorRT-LLM 团队可能更专注于更新和维护 pytorch backend。但 tensorrt backend 作为先前一直开发的工作，其中包含了大量可以学习的地方。本文主要看看它导出模型的部分&#x…...
ESP32读取DHT11温湿度数据
芯片：ESP32 环境：Arduino 一、安装DHT11传感器库 红框的库，别安装错了 二、代码 注意，DATA口要连接在D15上 #include "DHT.h" // 包含DHT库#define DHTPIN 15 // 定义DHT11数据引脚连接到ESP32的GPIO15 #define D…...
第一篇：Agent2Agent (A2A) 协议——协作式人工智能的黎明
AI 领域的快速发展正在催生一个新时代，智能代理（agents）不再是孤立的个体，而是能够像一个数字团队一样协作。然而，当前 AI 生态系统的碎片化阻碍了这一愿景的实现，导致了“AI 巴别塔问题”——不同代理之间…...
12.找到字符串中所有字母异位词
🧠 题目解析 题目描述： 给定两个字符串 s 和 p，找出 s 中所有 p 的字母异位词的起始索引。 返回的答案以数组形式表示。 字母异位词定义： 若两个字符串包含的字符种类和出现次数完全相同，顺序无所谓，则互为…...
PAN/FPN
import torch import torch.nn as nn import torch.nn.functional as F import mathclass LowResQueryHighResKVAttention(nn.Module):"""方案 1: 低分辨率特征 (Query) 查询高分辨率特征 (Key, Value).输出分辨率与低分辨率输入相同。"""def __…...