当前位置： 首页 > news >正文

【AI】生成式AI服务器最低配置

news 2026/3/27 11:42:27

【背景】

考虑数据安全，又想用AI赋能企业内部的日常工作，答案只有一个，本地部署。
UI采用open-web-ui，模型用Ollama管理，在局域网做成SAAS服务。要组一个服务器，提供部门内部最多30个的API并发。以下为反复比对后得到的配置。
注意，之所以是最低配置，纯粹因为公司申请花钱麻烦，所以有条件的话当然直接双GPU，A100走起，320GDDR4走起。
穷人，只能花小钱办大事。
模型都是text generation，不涉及图片和视频生成。
每个单品硬件控制在5000元以下。

【具体配置】

"英特尔(Intel) i9-14900K
"金士顿（Kingston）FURY 128GB(32G×4)套装 DDR5 6000 台式机内存条
"技嘉（GIGABYTE）风魔 GeForce RTX 4070显卡
"技嘉Z790M AORUS ELITE/小雕/耐久主板
"技嘉（GIGABYTE）C102G全景式 机箱熏黑钢化玻璃侧透兼容360/240水冷散热器
"技嘉（GIGABYTE）AORUS 冰雕一体式CPU水冷散热器
"西部数据（WD） M.2 NVME 2230 SSD固态硬盘

【注意事项】

一些基础的注意事项包括，主板看是否支持14代CPU，版型是ATX还是MATX等，机箱需要匹配。
4070是穷人搞AI最有性价比的卡。
水冷必须一体式不然维护麻烦漏液风险大。
NVM读取速度快但要注意M2接口数量。
电源要看瓦数，目前这个配置至少要750W以上。

【实际效果】

用过再补充，希望能够足够跑服务。

相关文章：

【AI】生成式AI服务器最低配置

【背景】 考虑数据安全，又想用AI赋能企业内部的日常工作，答案只有一个，本地部署。 UI采用open-web-ui，模型用Ollama管理，在局域网做成SAAS服务。要组一个服务器，提供部门内部最多30个的API并发。以下为反复…...

编程日记 2024/6/28 2:41:47

2.Android逆向协议-了解常用的逆向工具

免责声明：内容仅供学习参考，请合法利用知识，禁止进行违法犯罪活动！ 内容参考于：微尘网校 上一个内容：1.Android逆向协议-环境搭建 常用的工具：AndroidKiller、jadx、JEB、IDA AndroidKiller…...

编程日记 2024/6/28 2:39:45

大数据------额外软件、插件及技术------Linux（完整知识点汇总）

Linxu 不同领域的主流操作系统 桌面操作系统 WindowsMAac OSLinux 服务器端操作系统 UNIX（付费）LinuxWindows Server（付费） 移动设备操作系统 Android（基于Linux开源）IOS（不开源） 嵌…...

编程日记 2024/6/28 2:38:44

iOS 其他应用的文件如何在分享中使用自己的应用打开

废话少说 一、第一步：先配置好plist文件 右击info.plist如下图文件打开 根据自己需要配置支持的文件类型，也可使用property List中配置，一样的 其他的文件可是参考文档：System-Declared Uniform Type Identifiers 可复制的代码&am…...

编程日记 2024/6/28 2:34:40

【编译原理必考大题】 推导构建语法树，写出语法树的短语，简单短语和句柄

写在最前 本文为编译原理重点考察大题之一，理论基础见专栏文章，0基础直接使用也可食用 文章目录 推导构造语法树1.语法树的概念2. 子树，短语，简单短语，句柄2.1 子树2.2 短语2.3 简单短语与句柄2.4 真题实战 推导构造语…...

编程日记 2024/6/28 2:30:35

redis服务介绍

redis 基础概念安装使用基础操作命令数据类型操作命令 管理和维护命令 基础概念 Remote Dictionary Server（Redis）远程字典服务器是完全开源免费的，用C语言编写的，遵守BSD开源协议，是一个高性能的（key/val…...

编程日记 2024/6/28 2:25:30

nodepad 中换行符、tab替换

1 nodepad 主要符号 换行符: \r\n（windows） tab: \t 2 展示符号 3 相互替换 tip:需要点击扩展 参考： https://blog.csdn.net/lijing742180/article/details/85174564...

编程日记 2024/6/28 2:24:29

常见的字符串函数(包含头文件string.h)和字符函数（2）

八. strstr函数 1.strstr的定义 char *strstr( const char *str1, const char *str2 ); ->1. strstr查找子串(str2)在字符串(str2)中第一次出现的位置，记录并返回该位置的指针，如果找不到，则返回NULL ->2. str1：查找字符…...

编程日记 2024/6/28 2:23:27

Python | Leetcode Python题解之第187题重复的DNA序列

题目&#xff1a; 题解&#xff1a; L 10 bin {A: 0, C: 1, G: 2, T: 3}class Solution:def findRepeatedDnaSequences(self, s: str) -> List[str]:n len(s)if n < L:return []ans []x 0for ch in s[:L - 1]:x (x << 2) | bin[ch]cnt defaultdict(int)for…...

编程日记 2024/6/28 2:17:22

SpringCloud分布式微服务链路追踪方案：Skywalking

一、引言 随着微服务架构的广泛应用&#xff0c;系统的复杂性也随之增加。在这种复杂的系统中&#xff0c;应用通常由多个相互独立的服务组成&#xff0c;每个服务可能分布在不同的主机上。微服务架构虽然提高了系统的灵活性和可扩展性&#xff0c;但也带来了新的挑战&#xf…...

编程日记 2024/6/28 2:16:21

首次线下联合亮相！灵途科技携手AEye、ATI亮相2024 EAC 易贸汽车产业大会

6月22日&#xff0c;2024 EAC 易贸汽车产业大会在苏州国际博览中心圆满落幕&#xff0c;泛自动驾驶领域光电感知专家灵途科技携手自适应高性能激光雷达解决方案全球领导者AEye公司&#xff08;NASDAQ:LIDR&#xff09;及光电器件规模化量产巨头Accelight Technologies&#xff…...

编程日记 2024/6/28 2:15:20

一文入门CMake

我们前几篇文章已经入门了gcc和Makefile&#xff0c;现在可以来玩玩CMake了。 CMake和Makefile是差不多的&#xff0c;基本上是可以相互替换使用的。CMAke可以生成Makefile&#xff0c;所以本质上我们还是用的Makefile&#xff0c;只不过用了CMake就不用再写Makefile了&#x…...

编程日记 2024/6/28 2:13:18

【LeetCode面试经典150题】117. 填充每个节点的下一个右侧节点指针 II

一、题目 117. 填充每个节点的下一个右侧节点指针 II - 力扣&#xff08;LeetCode&#xff09; 给定一个二叉树&#xff1a; struct Node {int val;Node *left;Node *right;Node *next; } 填充它的每个 next 指针&#xff0c;让这个指针指向其下一个右侧节点。如果找不到下一个…...

编程日记 2024/6/28 2:12:17

RTDETR更换优化器——Lion

RTDETR更换Lion优化器 论文&#xff1a;https://arxiv.org/abs/2302.06675 代码&#xff1a;https://github.com/google/automl/blob/master/lion/lion_pytorch.py 简介&#xff1a; Lion优化器是一种基于梯度的优化算法&#xff0c;旨在提高梯度下降法在深度学习中的优化效果…...

编程日记 2024/6/28 2:10:14

Spring Boot中最佳实践：数据源配置详解

Spring Boot中最佳实践&#xff1a;数据源配置详解 大家好&#xff0c;我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编&#xff0c;也是冬天不穿秋裤&#xff0c;天冷也要风度的程序猿&#xff01;今天我们将深入探讨在Spring Boot中如何进行最佳实践的数据源…...

编程日记 2024/6/28 2:09:13

第1章 物联网模式简介---独特要求和体系结构原则

物联网用例的独特要求 物联网用例往往在功耗、带宽、分析等方面具有非常独特的要求。此外&#xff0c;物联网实施的固有复杂性&#xff08;一端的现场设备在计算上受到挑战&#xff0c;另一端的云容量几乎无限&#xff09;迫使架构师做出艰难的架构决策和实施选择。可用实现技…...

编程日记 2024/6/28 2:06:10

数据挖掘概览

数据挖掘(Data Mining)就是从大量的,不完全的,有噪声的,模糊的,随机的实际应用数据中,提取隐含在其中的,人们事先不知道的,但又是潜在有用的信息和知识的过程. 预测性数据挖掘 分类 定义&#xff1a;分类就是把一些新的数据项映射到给定类别中的某一个类别 分类流程&#x…...

编程日记 2024/6/28 2:05:09

【学习】软件测试中常见的文档类型及其作用

在软件开发的生命周期中&#xff0c;软件测试是确保产品质量的关键步骤。为了系统地进行测试活动&#xff0c;并保证测试结果的有效性和可追溯性&#xff0c;产生了一系列标准化的测试文档。这些文档不仅为测试人员提供了执行指南&#xff0c;而且为项目管理者和利益相关者提供…...

编程日记 2024/6/28 2:04:08

electron的托盘Tray

1.在主进程文件background.js中引入需要的文件 import { Tray, Menu } from "electron"; const path require("path");2.获取托盘图标 const baseSRC process.cwd(); //这里不能使用__dirname,使用dirname会直接获取dist_electron中的文件&#xff0c;…...

编程日记 2024/6/28 2:02:07

Harmony OS UI框架探索笔记

本文探讨了如何将现有的常用架构理论与Arkts和ArkUI结合起来&#xff0c;使代码更有条理&#xff0c;并利用Previewer快速调整布局&#xff0c;同时在不改变代码的情况下运行显示真实数据。 开发环境 Windows 11DevEco Studio 4.0 ReleaseBuild Version: 4.0.0.600, built on…...

编程日记 2024/6/28 1:59:03

GSMA：运营商实践AI大模型赋能垂直行业标杆案例集 2025

这份《运营商实践 AI 大模型赋能垂直行业标杆案例集 2025》由 GSMA 发布&#xff0c;聚焦客户服务与运营创新、医疗健康与智慧教育、产业升级与智能制造、公共服务与社会治理四大领域&#xff0c;系统梳理了中国移动、中国电信、中国联通三大运营商携手生态伙伴&#xff0c;将 …...

编程新知 2026/3/27 11:25:58

SEO_2024年最新SEO趋势分析与实战策略解读

<h1 id"2024seo">2024年最新SEO趋势分析与实战策略解读</h1> <p>在数字营销的快速发展中&#xff0c;搜索引擎优化&#xff08;SEO&#xff09;作为提升网站流量的重要手段&#xff0c;一直备受关注。2024年&#xff0c;SEO领域再度发生了一些重要…...

编程新知 2026/3/27 10:51:50

从GitHub开源项目到一键部署：OFA模型在星图平台的快速落地

从GitHub开源项目到一键部署&#xff1a;OFA模型在星图平台的快速落地 1. 引言 你是不是也遇到过这种情况&#xff1f;在GitHub上看到一个特别酷的AI项目&#xff0c;比如OFA这种能看图说话、理解多模态信息的模型&#xff0c;心里痒痒的想立刻上手试试。结果呢&#xff0c;光…...

编程新知 2026/3/27 10:49:50

告别命令行恐惧：用RU.EXE快捷键玩转硬件诊断（附常用命令速查表）

告别命令行恐惧&#xff1a;用RU.EXE快捷键玩转硬件诊断&#xff08;附常用命令速查表&#xff09; 在工业计算机维护和硬件诊断领域&#xff0c;RU.EXE一直是资深工程师的秘密武器。但对于每天奔波在不同现场的技术支持人员来说&#xff0c;面对这个功能强大却界面复古的工具&…...

编程新知 2026/3/27 10:09:28

建行江门市分行：量身定制金融策 陈皮产业绽新姿

“前期承包土地、购买柑苗已投入大量资金&#xff0c;后续还要设法购买化肥。”眼看资金接续不上&#xff0c;前期投入面临打水漂&#xff0c;流动资金短缺让江门新会某陈皮庄园负责人老李一筹莫展。 获悉老李困境后&#xff0c;建行广东江门分行网点客户经理驱车前往果园实地走…...

编程新知 2026/3/27 9:27:03

LeagueAkari终极教程：英雄联盟玩家的智能辅助工具完全指南

LeagueAkari终极教程&#xff1a;英雄联盟玩家的智能辅助工具完全指南 【免费下载链接】League-Toolkit 兴趣使然的、简单易用的英雄联盟工具集。支持战绩查询、自动秒选等功能。基于 LCU API。 项目地址: https://gitcode.com/gh_mirrors/le/League-Toolkit LeagueAkar…...

编程新知 2026/3/27 9:00:47

音乐解密技术探秘：从加密困境到跨平台解决方案

音乐解密技术探秘&#xff1a;从加密困境到跨平台解决方案 【免费下载链接】unlock-music 在浏览器中解锁加密的音乐文件。原仓库&#xff1a; 1. https://github.com/unlock-music/unlock-music &#xff1b;2. https://git.unlock-music.dev/um/web 项目地址: https://gitc…...

编程新知 2026/3/27 8:42:38

SEO_全面介绍SEO从入门到精通的关键知识点

<h2>什么是SEO&#xff1f;</h2> <p>SEO&#xff08;Search Engine Optimization&#xff0c;搜索引擎优化&#xff09;是一套通过优化网站内容和结构&#xff0c;以提高其在搜索引擎结果页面&#xff08;SERP&#xff09;中的自然排名的技术和策略。SEO不仅…...

编程新知 2026/3/27 7:56:17

【调试心法】别用 printf 谋杀你的系统了！打破“测不准”魔咒，用 C++ 与 DMA 构筑微秒级零开销异步观测者

摘要&#xff1a;在硬实时控制系统中&#xff0c;最可怕的 Bug 往往是薛定谔的 Bug——当你试图用 printf 去观察它时&#xff0c;观察行为本身产生的巨大延迟&#xff0c;就足以改变系统的物理运行轨迹。本文将无情揭露同步串口打印的耗时真相&#xff0c;批判阻塞式调试对高频…...

编程新知 2026/3/27 7:42:15

OpenClaw定时任务管理：ollama-QwQ-32B实现智能提醒系统

OpenClaw定时任务管理&#xff1a;ollama-QwQ-32B实现智能提醒系统 1. 为什么需要智能提醒系统 作为一个长期被各种截止日期折磨的技术从业者&#xff0c;我一直在寻找一个能够真正理解我需求的提醒工具。传统的日历应用虽然能设置固定时间的提醒&#xff0c;但缺乏灵活性——…...

编程新知 2026/3/27 7:40:14