当前位置： 首页 > news >正文

【AI】生成式AI服务器最低配置

news 2025/10/29 20:47:18

【背景】

考虑数据安全，又想用AI赋能企业内部的日常工作，答案只有一个，本地部署。
UI采用open-web-ui，模型用Ollama管理，在局域网做成SAAS服务。要组一个服务器，提供部门内部最多30个的API并发。以下为反复比对后得到的配置。
注意，之所以是最低配置，纯粹因为公司申请花钱麻烦，所以有条件的话当然直接双GPU，A100走起，320GDDR4走起。
穷人，只能花小钱办大事。
模型都是text generation，不涉及图片和视频生成。
每个单品硬件控制在5000元以下。

【具体配置】

"英特尔(Intel) i9-14900K
"金士顿（Kingston）FURY 128GB(32G×4)套装 DDR5 6000 台式机内存条
"技嘉（GIGABYTE）风魔 GeForce RTX 4070显卡
"技嘉Z790M AORUS ELITE/小雕/耐久主板
"技嘉（GIGABYTE）C102G全景式 机箱熏黑钢化玻璃侧透兼容360/240水冷散热器
"技嘉（GIGABYTE）AORUS 冰雕一体式CPU水冷散热器
"西部数据（WD） M.2 NVME 2230 SSD固态硬盘

【注意事项】

一些基础的注意事项包括，主板看是否支持14代CPU，版型是ATX还是MATX等，机箱需要匹配。
4070是穷人搞AI最有性价比的卡。
水冷必须一体式不然维护麻烦漏液风险大。
NVM读取速度快但要注意M2接口数量。
电源要看瓦数，目前这个配置至少要750W以上。

【实际效果】

用过再补充，希望能够足够跑服务。

相关文章：

【AI】生成式AI服务器最低配置

【背景】 考虑数据安全，又想用AI赋能企业内部的日常工作，答案只有一个，本地部署。 UI采用open-web-ui，模型用Ollama管理，在局域网做成SAAS服务。要组一个服务器，提供部门内部最多30个的API并发。以下为反复…...

编程日记 2024/6/28 2:41:47

2.Android逆向协议-了解常用的逆向工具

免责声明：内容仅供学习参考，请合法利用知识，禁止进行违法犯罪活动！ 内容参考于：微尘网校 上一个内容：1.Android逆向协议-环境搭建 常用的工具：AndroidKiller、jadx、JEB、IDA AndroidKiller…...

编程日记 2024/6/28 2:39:45

大数据------额外软件、插件及技术------Linux（完整知识点汇总）

Linxu 不同领域的主流操作系统 桌面操作系统 WindowsMAac OSLinux 服务器端操作系统 UNIX（付费）LinuxWindows Server（付费） 移动设备操作系统 Android（基于Linux开源）IOS（不开源） 嵌…...

编程日记 2024/6/28 2:38:44

iOS 其他应用的文件如何在分享中使用自己的应用打开

废话少说 一、第一步：先配置好plist文件 右击info.plist如下图文件打开 根据自己需要配置支持的文件类型，也可使用property List中配置，一样的 其他的文件可是参考文档：System-Declared Uniform Type Identifiers 可复制的代码&am…...

编程日记 2024/6/28 2:34:40

【编译原理必考大题】 推导构建语法树，写出语法树的短语，简单短语和句柄

写在最前 本文为编译原理重点考察大题之一，理论基础见专栏文章，0基础直接使用也可食用 文章目录 推导构造语法树1.语法树的概念2. 子树，短语，简单短语，句柄2.1 子树2.2 短语2.3 简单短语与句柄2.4 真题实战 推导构造语…...

编程日记 2024/6/28 2:30:35

redis服务介绍

redis 基础概念安装使用基础操作命令数据类型操作命令 管理和维护命令 基础概念 Remote Dictionary Server（Redis）远程字典服务器是完全开源免费的，用C语言编写的，遵守BSD开源协议，是一个高性能的（key/val…...

编程日记 2024/6/28 2:25:30

nodepad 中换行符、tab替换

1 nodepad 主要符号 换行符: \r\n（windows） tab: \t 2 展示符号 3 相互替换 tip:需要点击扩展 参考： https://blog.csdn.net/lijing742180/article/details/85174564...

编程日记 2024/6/28 2:24:29

常见的字符串函数(包含头文件string.h)和字符函数（2）

八. strstr函数 1.strstr的定义 char *strstr( const char *str1, const char *str2 ); ->1. strstr查找子串(str2)在字符串(str2)中第一次出现的位置，记录并返回该位置的指针，如果找不到，则返回NULL ->2. str1：查找字符…...

编程日记 2024/6/28 2:23:27

Python | Leetcode Python题解之第187题重复的DNA序列

题目&#xff1a; 题解&#xff1a; L 10 bin {A: 0, C: 1, G: 2, T: 3}class Solution:def findRepeatedDnaSequences(self, s: str) -> List[str]:n len(s)if n < L:return []ans []x 0for ch in s[:L - 1]:x (x << 2) | bin[ch]cnt defaultdict(int)for…...

编程日记 2024/6/28 2:17:22

SpringCloud分布式微服务链路追踪方案：Skywalking

一、引言 随着微服务架构的广泛应用&#xff0c;系统的复杂性也随之增加。在这种复杂的系统中&#xff0c;应用通常由多个相互独立的服务组成&#xff0c;每个服务可能分布在不同的主机上。微服务架构虽然提高了系统的灵活性和可扩展性&#xff0c;但也带来了新的挑战&#xf…...

编程日记 2024/6/28 2:16:21

首次线下联合亮相！灵途科技携手AEye、ATI亮相2024 EAC 易贸汽车产业大会

6月22日&#xff0c;2024 EAC 易贸汽车产业大会在苏州国际博览中心圆满落幕&#xff0c;泛自动驾驶领域光电感知专家灵途科技携手自适应高性能激光雷达解决方案全球领导者AEye公司&#xff08;NASDAQ:LIDR&#xff09;及光电器件规模化量产巨头Accelight Technologies&#xff…...

编程日记 2024/6/28 2:15:20

一文入门CMake

我们前几篇文章已经入门了gcc和Makefile&#xff0c;现在可以来玩玩CMake了。 CMake和Makefile是差不多的&#xff0c;基本上是可以相互替换使用的。CMAke可以生成Makefile&#xff0c;所以本质上我们还是用的Makefile&#xff0c;只不过用了CMake就不用再写Makefile了&#x…...

编程日记 2024/6/28 2:13:18

【LeetCode面试经典150题】117. 填充每个节点的下一个右侧节点指针 II

一、题目 117. 填充每个节点的下一个右侧节点指针 II - 力扣&#xff08;LeetCode&#xff09; 给定一个二叉树&#xff1a; struct Node {int val;Node *left;Node *right;Node *next; } 填充它的每个 next 指针&#xff0c;让这个指针指向其下一个右侧节点。如果找不到下一个…...

编程日记 2024/6/28 2:12:17

RTDETR更换优化器——Lion

RTDETR更换Lion优化器 论文&#xff1a;https://arxiv.org/abs/2302.06675 代码&#xff1a;https://github.com/google/automl/blob/master/lion/lion_pytorch.py 简介&#xff1a; Lion优化器是一种基于梯度的优化算法&#xff0c;旨在提高梯度下降法在深度学习中的优化效果…...

编程日记 2024/6/28 2:10:14

Spring Boot中最佳实践：数据源配置详解

Spring Boot中最佳实践&#xff1a;数据源配置详解 大家好&#xff0c;我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编&#xff0c;也是冬天不穿秋裤&#xff0c;天冷也要风度的程序猿&#xff01;今天我们将深入探讨在Spring Boot中如何进行最佳实践的数据源…...

编程日记 2024/6/28 2:09:13

第1章 物联网模式简介---独特要求和体系结构原则

物联网用例的独特要求 物联网用例往往在功耗、带宽、分析等方面具有非常独特的要求。此外&#xff0c;物联网实施的固有复杂性&#xff08;一端的现场设备在计算上受到挑战&#xff0c;另一端的云容量几乎无限&#xff09;迫使架构师做出艰难的架构决策和实施选择。可用实现技…...

编程日记 2024/6/28 2:06:10

数据挖掘概览

数据挖掘(Data Mining)就是从大量的,不完全的,有噪声的,模糊的,随机的实际应用数据中,提取隐含在其中的,人们事先不知道的,但又是潜在有用的信息和知识的过程. 预测性数据挖掘 分类 定义&#xff1a;分类就是把一些新的数据项映射到给定类别中的某一个类别 分类流程&#x…...

编程日记 2024/6/28 2:05:09

【学习】软件测试中常见的文档类型及其作用

在软件开发的生命周期中&#xff0c;软件测试是确保产品质量的关键步骤。为了系统地进行测试活动&#xff0c;并保证测试结果的有效性和可追溯性&#xff0c;产生了一系列标准化的测试文档。这些文档不仅为测试人员提供了执行指南&#xff0c;而且为项目管理者和利益相关者提供…...

编程日记 2024/6/28 2:04:08

electron的托盘Tray

1.在主进程文件background.js中引入需要的文件 import { Tray, Menu } from "electron"; const path require("path");2.获取托盘图标 const baseSRC process.cwd(); //这里不能使用__dirname,使用dirname会直接获取dist_electron中的文件&#xff0c;…...

编程日记 2024/6/28 2:02:07

Harmony OS UI框架探索笔记

本文探讨了如何将现有的常用架构理论与Arkts和ArkUI结合起来&#xff0c;使代码更有条理&#xff0c;并利用Previewer快速调整布局&#xff0c;同时在不改变代码的情况下运行显示真实数据。 开发环境 Windows 11DevEco Studio 4.0 ReleaseBuild Version: 4.0.0.600, built on…...

编程日记 2024/6/28 1:59:03

19c补丁后oracle属主变化，导致不能识别磁盘组

补丁后服务器重启&#xff0c;数据库再次无法启动 ORA01017: invalid username/password; logon denied Oracle 19c 在打上 19.23 或以上补丁版本后&#xff0c;存在与用户组权限相关的问题。具体表现为&#xff0c;Oracle 实例的运行用户&#xff08;oracle&#xff09;和集…...

编程新知 2025/10/29 3:51:17

JavaSec-RCE

简介 RCE(Remote Code Execution)&#xff0c;可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景&#xff1a;Groovy代码注入 Groovy是一种基于JVM的动态语言&#xff0c;语法简洁&#xff0c;支持闭包、动态类型和Java互操作性&#xff0c…...

编程新知 2025/10/27 13:27:58

mysql已经安装，但是通过rpm -q 没有找mysql相关的已安装包

文章目录 现象&#xff1a;mysql已经安装&#xff0c;但是通过rpm -q 没有找mysql相关的已安装包遇到 rpm 命令找不到已经安装的 MySQL 包时&#xff0c;可能是因为以下几个原因&#xff1a;1.MySQL 不是通过 RPM 包安装的2.RPM 数据库损坏3.使用了不同的包名或路径4.使用其他包…...

编程新知 2025/10/29 18:15:21

tree 树组件大数据卡顿问题优化

问题背景 项目中有用到树组件用来做文件目录&#xff0c;但是由于这个树组件的节点越来越多&#xff0c;导致页面在滚动这个树组件的时候浏览器就很容易卡死。这种问题基本上都是因为dom节点太多&#xff0c;导致的浏览器卡顿&#xff0c;这里很明显就需要用到虚拟列表的技术&…...

编程新知 2025/10/23 22:39:48

七、数据库的完整性

七、数据库的完整性 主要内容 7.1 数据库的完整性概述 7.2 实体完整性 7.3 参照完整性 7.4 用户定义的完整性 7.5 触发器 7.6 SQL Server中数据库完整性的实现 7.7 小结 7.1 数据库的完整性概述 数据库完整性的含义 正确性 指数据的合法性 有效性 指数据是否属于所定…...

编程新知 2025/10/27 5:02:19

深度学习水论文：mamba＋图像增强

&#x1f9c0;当前视觉领域对高效长序列建模需求激增&#xff0c;对Mamba图像增强这方向的研究自然也逐渐火热。原因在于其高效长程建模&#xff0c;以及动态计算优势&#xff0c;在图像质量提升和细节恢复方面有难以替代的作用。 &#x1f9c0;因此短时间内&#xff0c;就有不…...

编程新知 2025/10/28 0:15:18

在树莓派上添加音频输入设备的几种方法

在树莓派上添加音频输入设备可以通过以下步骤完成&#xff0c;具体方法取决于设备类型&#xff08;如USB麦克风、3.5mm接口麦克风或HDMI音频输入&#xff09;。以下是详细指南&#xff1a; 1. 连接音频输入设备 USB麦克风/声卡&#xff1a;直接插入树莓派的USB接口。3.5mm麦克…...

编程新知 2025/10/24 14:12:54

第八部分：阶段项目 6：构建 React 前端应用

现在&#xff0c;是时候将你学到的 React 基础知识付诸实践&#xff0c;构建一个简单的前端应用来模拟与后端 API 的交互了。在这个阶段&#xff0c;你可以先使用模拟数据&#xff0c;或者如果你的后端 API&#xff08;阶段项目 5&#xff09;已经搭建好&#xff0c;可以直接连…...

编程新知 2025/9/21 1:58:01

倒装芯片凸点成型工艺

UBM&#xff08;Under Bump Metallization&#xff09;与Bump&#xff08;焊球&#xff09;形成工艺流程。我们可以将整张流程图分为三大阶段来理解&#xff1a; &#x1f527; 一、UBM&#xff08;Under Bump Metallization&#xff09;工艺流程&#xff08;黄色区域&#xff…...

编程新知 2025/10/26 18:20:28

RKNN开发环境搭建2-RKNN Model Zoo 环境搭建

目录 1.简介2.环境搭建2.1 启动 docker 环境2.2 安装依赖工具2.3 下载 RKNN Model Zoo2.4 RKNN模型转化2.5编译C++1.简介 RKNN Model Zoo基于 RKNPU SDK 工具链开发, 提供了目前主流算法的部署例程. 例程包含导出RKNN模型, 使用 Python API, CAPI 推理 RKNN 模型的流程.   本…...

编程新知 2025/10/27 13:54:45