Deepseek部署的模型参数要求
DeepSeek 模型部署硬件要求
| 模型名称 | 参数量 | 显存需求(推理) | 显存需求(微调) | CPU 配置 | 内存要求 | 硬盘空间 | 适用场景 |
|---|---|---|---|---|---|---|---|
| DeepSeek-R1-1.5B | 1.5B | 4GB+ | 8GB+ | 最低 4 核(推荐多核) | 8GB+ | 3GB+ | 低资源设备部署,如树莓派、旧款笔记本等 |
| DeepSeek-R1-7B | 7B | 8GB+ | 16GB+ | 8 核以上(推荐现代多核 CPU) | 16GB+ | 8GB+ | 中小型企业本地开发测试、中等复杂度 NLP 任务 |
| DeepSeek-R1-8B | 8B | 8GB+ | 16GB+ | 8 核以上(推荐现代多核 CPU) | 16GB+ | 8GB+ | 需更高精度的轻量级任务(如代码生成、逻辑推理) |
| DeepSeek-R1-14B | 14B | 16GB+ | 32GB+ | 12 核以上 | 32GB+ | 15GB+ | 企业级复杂任务、长文本理解与生成 |
| DeepSeek-R1-32B | 32B | 24GB+ | 48GB+ | 16 核以上(如 AMD Ryzen 9 或 Intel i9) | 64GB+ | 30GB+ | 高精度专业领域任务、多模态任务预处理 |
| DeepSeek-R1-70B | 70B | 48GB+ | 96GB+ | 32 核以上(服务器级 CPU) | 128GB+ | 70GB+ | 科研机构/大型企业、高复杂度生成任务 |
| DeepSeek-R1-671B | 671B | 128GB+ | 256GB+ | 64 核以上(服务器集群) | 512GB+ | 300GB+ | 超大规模 AI 研究、通用人工智能(AGI)探索 |
NVIDIA显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| RTX 5090 | 32GB | GDDR7 |
| RTX 5090D | 32GB | GDDR7 |
| RTX 5080 | 16GB | GDDR7 |
| RTX 5070Ti | 16GB | GDDR7 |
| RTX 5070 | 12GB | GDDR7 |
| RTX 4090D | 24GB | GDDR6X |
| RTX 4080 | 16GB | GDDR6X |
| RTX 4070TiSuper | 12GB | GDDR6X |
| RTX 4070Super | 12GB | GDDR6X |
| RTX 4060Ti 16G | 16GB | GDDR6 |
| RTX 4060Ti 8G | 8GB | GDDR6 |
| RTX 4060 | 8GB | GDDR6 |
NVIDIA 10 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| GT 1030 | 2GB | GDDR5 | 64bit |
NVIDIA 20 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| RTX 2080 Ti | 11GB | GDDR6 | 352bit |
| RTX 2080 | 8GB | GDDR6 | 256bit |
| RTX 2070 Super | 8GB | GDDR6 | 256bit |
| RTX 2070 | 8GB | GDDR6 | 256bit |
| RTX 2060 Super | 8GB | GDDR6 | 256bit |
| RTX 2060 | 6GB | GDDR6 | 192bit |
NVIDIA 30 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| RTX 3090 Ti | 24GB | GDDR6X | 384bit |
| RTX 3090 | 24GB | GDDR6X | 384bit |
| RTX 3080 Ti | 12GB | GDDR6X | 384bit |
| RTX 3080 | 12GB | GDDR6X | 320bit |
| RTX 3070 Ti | 8GB | GDDR6X | 256bit |
| RTX 3070 | 8GB | GDDR6 | 256bit |
| RTX 3060 Ti | 8GB | GDDR6 | 256bit |
| RTX 3060 | 12GB | GDDR6 | 192bit |
| RTX 3050 | 8GB | GDDR6 | 128bit |
AMD显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| Radeon RX 9070 XT | 16GB | GDDR6 |
| Radeon RX 9070 | 16GB | GDDR6 |
| Radeon RX 7900GRE | 16GB | GDDR6 |
| Radeon RX 7800XT | 12GB | GDDR6 |
Intel显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| Arc B580 | 12GB | GDDR6 |
| Arc B570 | 10GB | GDDR6 |
相关文章:
Deepseek部署的模型参数要求
DeepSeek 模型部署硬件要求 模型名称参数量显存需求(推理)显存需求(微调)CPU 配置内存要求硬盘空间适用场景DeepSeek-R1-1.5B1.5B4GB8GB最低 4 核(推荐多核)8GB3GB低资源设备部署,如树莓派、旧…...
AI-学习路线图-PyTorch-我是土堆
1 需求 PyTorch深度学习快速入门教程(绝对通俗易懂!)【小土堆】_哔哩哔哩_bilibili PyTorch 深度学习快速入门教程 配套资源 链接 视频教程 https://www.bilibili.com/video/BV1hE411t7RN/ 文字教程 https://blog.csdn.net/xiaotudui…...
[LeetCode]day17 349.两个数组的交集
https://leetcode.cn/problems/intersection-of-two-arrays/description/ 题目描述 给定两个数组 nums1 和 nums2 ,返回它们的交集。 输出结果中的每个元素一定是唯一的。 我们可以不考虑输出结果的顺序 。 示例 1: 输入:nums1 [1,2,2,1…...
axios 发起 post请求 json 需要传入数据格式
• 1. axios 发起 post请求 json 传入数据格式 • 2. axios get请求 1. axios 发起 post请求 json 传入数据格式 使用 axios 发起 POST 请求并以 JSON 格式传递数据是前端开发中常见的操作。 下面是一个简单的示例,展示如何使用 axios 向服务器发送包含 JSON 数…...
linux交叉编译paho-mqtt-c
下载源代码: https://github.com/eclipse-paho/paho.mqtt.c.git 编译: 如果mqtt不需要SSL安全认证,可以直接执行(注意把编译工具链路径改成自己的) cd paho.mqtt.c-1.3.13/ mkdir install # 创建安装目录 mkdir…...
feign Api接口中注解问题:not annotated with HTTP method type (ex. GET, POST)
Bug Description 在调用Feign api时,出现如下异常: java.lang.IllegalStateException: Method PayFeignSentinelApi#getPayByOrderNo(String) not annotated with HTTPReproduciton Steps 1.启动nacos-pay-provider服务,并启动nacos-pay-c…...
安装指定版本的pnpm
要安装指定版本的 pnpm,可以使用以下方法: 方法 1: 使用 pnpm 安装指定版本 你可以通过 pnpm 的 add 命令来安装指定版本: pnpm add -g pnpm<版本号>例如,安装 pnpm 的 7.0.0 版本: pnpm add -g pnpm7.0.0方法…...
【系统设计】Spring、SpringMVC 与 Spring Boot 技术选型指南:人群、场景与实战建议
在 Java 开发领域,Spring 生态的技术选型直接影响项目的开发效率、维护成本和长期扩展性。然而,面对 Spring、SpringMVC 和 Spring Boot 这三个紧密关联的框架,开发者常常陷入纠结:该从何入手?如何根据团队能力和业务需…...
常用数据结构之String字符串
字符串 在Java编程语言中,字符可以使用基本数据类型char来保存,在 Java 中字符串属于对象,Java 提供了 String 类来创建和操作字符串。 操作字符串常用的有三种类:String、StringBuilder、StringBuffer 接下来看看这三类常见用…...
深入Linux系列之进程地址空间
深入Linux系列之进程地址空间 1.引入 那么在之前的学习中,我们知道我们创建一个子进程的话,我们可以在代码层面调用fork函数来创建我们的子进程,那么fork函数的返回值根据我们当前所处进程的上下文是返回不同的值,它在父进程中返…...
HAL库外设宝典:基于CubeMX的STM32开发手册(持续更新)
目录 前言 GPIO(通用输入输出引脚) 推挽输出模式 浮空输入和上拉输入模式 GPIO其他模式以及内部电路原理 输出驱动器 输入驱动器 中断 外部中断(EXTI) 深入中断(内部机制及原理) 外部中断/事件控…...
网络安全-HSTS
什么是HSTS? HTTP严格传输安全协议(HTTP Strict Transport Security,简称:HSTS) 是互联网安全策略机制。网站可以选择使用HSTS策略,来让浏览器强制使用HTTPS与网站进行通信,以减少会话劫持风险。…...
全程Kali linux---CTFshow misc入门(38-50)
第三十八题: ctfshow{48b722b570c603ef58cc0b83bbf7680d} 第三十九题: 37换成1,36换成0,就得到长度为287的二进制字符串,因为不能被8整除所以,考虑每7位转换一个字符,得到flag。 ctfshow{5281…...
HarmonyOS:时间日期国际化
一、使用场景 在不同的国家和文化中,时间和日期格式的表示方法有所不同,使用惯例的不同点包括:日期中年月日的顺序、时间中时分秒的分隔符等。若应用中需展示时间日期,要确保界面以合适的方式显示,以便用户能够理解。 …...
使用miniforge代替miniconda
conda作为Python数据科学领域的常用软件,是对Python环境及相关依赖进行管理的经典工具,通常集成在anaconda或miniconda等产品中供用户日常使用。 但长久以来,conda在很多场景下运行缓慢卡顿、库解析速度过慢等问题也一直被用户所诟病…...
LIMO:少即是多的推理
25年2月来自上海交大、SII 和 GAIR 的论文“LIMO: Less is More for Reasoning”。 一个挑战是在大语言模型(LLM)中的复杂推理。虽然传统观点认为复杂的推理任务需要大量的训练数据(通常超过 100,000 个示例),但本文展…...
【玩转 Postman 接口测试与开发2_018】第14章:利用 Postman 初探 API 安全测试
《API Testing and Development with Postman》最新第二版封面 文章目录 第十四章 API 安全测试1 OWASP API 安全清单1.1 相关背景1.2 OWASP API 安全清单1.3 认证与授权1.4 破防的对象级授权(Broken object-level authorization)1.5 破防的属性级授权&a…...
如何编写测试用例
代码质量管理是软件开发过程中的关键组成部分,比如我们常说的代码规范、代码可读性、单元测试和测试覆盖率等,对于研发人员来说单元测试和测试覆盖率是保障自己所编写代码的质量的重要手段;好的用例可以帮助研发人员确保代码质量和稳定性、减…...
复原IP地址(力扣93)
有了上一道题分割字符串的基础,这道题理解起来就会容易很多。相同的思想我就不再赘述,在这里我就说明一下此题额外需要注意的点。首先是终止条件如何确定,上一题我们递归到超过字符串长度时,则说明字符串已经分割完毕,…...
zzcms接口index.php id参数存在SQL注入漏洞
zzcms接口index.php id参数存在SQL注入漏洞 漏洞描述 ZZCMS 2023中发现了一个严重漏洞。该漏洞影响了文件/index.php中的某些未知功能,操纵参数id会导致SQL注入,攻击可能是远程发起的,该漏洞已被公开披露并可被利用。攻击者可通过sql盲注等手段,获取数据库信息。 威胁等级:…...
遍历 Map 类型集合的方法汇总
1 方法一 先用方法 keySet() 获取集合中的所有键。再通过 gey(key) 方法用对应键获取值 import java.util.HashMap; import java.util.Set;public class Test {public static void main(String[] args) {HashMap hashMap new HashMap();hashMap.put("语文",99);has…...
Docker 运行 Kafka 带 SASL 认证教程
Docker 运行 Kafka 带 SASL 认证教程 Docker 运行 Kafka 带 SASL 认证教程一、说明二、环境准备三、编写 Docker Compose 和 jaas文件docker-compose.yml代码说明:server_jaas.conf 四、启动服务五、验证服务六、连接kafka服务七、总结 Docker 运行 Kafka 带 SASL 认…...
[ICLR 2022]How Much Can CLIP Benefit Vision-and-Language Tasks?
论文网址:pdf 英文是纯手打的!论文原文的summarizing and paraphrasing。可能会出现难以避免的拼写错误和语法错误,若有发现欢迎评论指正!文章偏向于笔记,谨慎食用 目录 1. 心得 2. 论文逐段精读 2.1. Abstract 2…...
【学习笔记】深入理解Java虚拟机学习笔记——第4章 虚拟机性能监控,故障处理工具
第2章 虚拟机性能监控,故障处理工具 4.1 概述 略 4.2 基础故障处理工具 4.2.1 jps:虚拟机进程状况工具 命令:jps [options] [hostid] 功能:本地虚拟机进程显示进程ID(与ps相同),可同时显示主类&#x…...
GruntJS-前端自动化任务运行器从入门到实战
Grunt 完全指南:从入门到实战 一、Grunt 是什么? Grunt是一个基于 Node.js 的前端自动化任务运行器,主要用于自动化执行项目开发中重复性高的任务,例如文件压缩、代码编译、语法检查、单元测试、文件合并等。通过配置简洁的任务…...
深度学习水论文:mamba+图像增强
🧀当前视觉领域对高效长序列建模需求激增,对Mamba图像增强这方向的研究自然也逐渐火热。原因在于其高效长程建模,以及动态计算优势,在图像质量提升和细节恢复方面有难以替代的作用。 🧀因此短时间内,就有不…...
AI+无人机如何守护濒危物种?YOLOv8实现95%精准识别
【导读】 野生动物监测在理解和保护生态系统中发挥着至关重要的作用。然而,传统的野生动物观察方法往往耗时耗力、成本高昂且范围有限。无人机的出现为野生动物监测提供了有前景的替代方案,能够实现大范围覆盖并远程采集数据。尽管具备这些优势…...
C#学习第29天:表达式树(Expression Trees)
目录 什么是表达式树? 核心概念 1.表达式树的构建 2. 表达式树与Lambda表达式 3.解析和访问表达式树 4.动态条件查询 表达式树的优势 1.动态构建查询 2.LINQ 提供程序支持: 3.性能优化 4.元数据处理 5.代码转换和重写 适用场景 代码复杂性…...
深入理解Optional:处理空指针异常
1. 使用Optional处理可能为空的集合 在Java开发中,集合判空是一个常见但容易出错的场景。传统方式虽然可行,但存在一些潜在问题: // 传统判空方式 if (!CollectionUtils.isEmpty(userInfoList)) {for (UserInfo userInfo : userInfoList) {…...
适应性Java用于现代 API:REST、GraphQL 和事件驱动
在快速发展的软件开发领域,REST、GraphQL 和事件驱动架构等新的 API 标准对于构建可扩展、高效的系统至关重要。Java 在现代 API 方面以其在企业应用中的稳定性而闻名,不断适应这些现代范式的需求。随着不断发展的生态系统,Java 在现代 API 方…...
