Deepseek部署的模型参数要求
DeepSeek 模型部署硬件要求
| 模型名称 | 参数量 | 显存需求（推理） | 显存需求（微调） | CPU 配置 | 内存要求 | 硬盘空间 | 适用场景 |
|---|---|---|---|---|---|---|---|
| DeepSeek-R1-1.5B | 1.5B | 4GB+ | 8GB+ | 最低 4 核（推荐多核） | 8GB+ | 3GB+ | 低资源设备部署，如树莓派、旧款笔记本等 |
| DeepSeek-R1-7B | 7B | 8GB+ | 16GB+ | 8 核以上（推荐现代多核 CPU） | 16GB+ | 8GB+ | 中小型企业本地开发测试、中等复杂度 NLP 任务 |
| DeepSeek-R1-8B | 8B | 8GB+ | 16GB+ | 8 核以上（推荐现代多核 CPU） | 16GB+ | 8GB+ | 需更高精度的轻量级任务（如代码生成、逻辑推理） |
| DeepSeek-R1-14B | 14B | 16GB+ | 32GB+ | 12 核以上 | 32GB+ | 15GB+ | 企业级复杂任务、长文本理解与生成 |
| DeepSeek-R1-32B | 32B | 24GB+ | 48GB+ | 16 核以上（如 AMD Ryzen 9 或 Intel i9） | 64GB+ | 30GB+ | 高精度专业领域任务、多模态任务预处理 |
| DeepSeek-R1-70B | 70B | 48GB+ | 96GB+ | 32 核以上（服务器级 CPU） | 128GB+ | 70GB+ | 科研机构/大型企业、高复杂度生成任务 |
| DeepSeek-R1-671B | 671B | 128GB+ | 256GB+ | 64 核以上（服务器集群） | 512GB+ | 300GB+ | 超大规模 AI 研究、通用人工智能（AGI）探索 |
NVIDIA显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| RTX 5090 | 32GB | GDDR7 |
| RTX 5090D | 32GB | GDDR7 |
| RTX 5080 | 16GB | GDDR7 |
| RTX 5070Ti | 16GB | GDDR7 |
| RTX 5070 | 12GB | GDDR7 |
| RTX 4090D | 24GB | GDDR6X |
| RTX 4080 | 16GB | GDDR6X |
| RTX 4070TiSuper | 12GB | GDDR6X |
| RTX 4070Super | 12GB | GDDR6X |
| RTX 4060Ti 16G | 16GB | GDDR6 |
| RTX 4060Ti 8G | 8GB | GDDR6 |
| RTX 4060 | 8GB | GDDR6 |
NVIDIA 10 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| GT 1030 | 2GB | GDDR5 | 64bit |
NVIDIA 20 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| RTX 2080 Ti | 11GB | GDDR6 | 352bit |
| RTX 2080 | 8GB | GDDR6 | 256bit |
| RTX 2070 Super | 8GB | GDDR6 | 256bit |
| RTX 2070 | 8GB | GDDR6 | 256bit |
| RTX 2060 Super | 8GB | GDDR6 | 256bit |
| RTX 2060 | 6GB | GDDR6 | 192bit |
NVIDIA 30 系列显卡
| 显卡型号 | 显存容量 | 显存类型 | 显存位宽 |
|---|---|---|---|
| RTX 3090 Ti | 24GB | GDDR6X | 384bit |
| RTX 3090 | 24GB | GDDR6X | 384bit |
| RTX 3080 Ti | 12GB | GDDR6X | 384bit |
| RTX 3080 | 12GB | GDDR6X | 320bit |
| RTX 3070 Ti | 8GB | GDDR6X | 256bit |
| RTX 3070 | 8GB | GDDR6 | 256bit |
| RTX 3060 Ti | 8GB | GDDR6 | 256bit |
| RTX 3060 | 12GB | GDDR6 | 192bit |
| RTX 3050 | 8GB | GDDR6 | 128bit |
AMD显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| Radeon RX 9070 XT | 16GB | GDDR6 |
| Radeon RX 9070 | 16GB | GDDR6 |
| Radeon RX 7900GRE | 16GB | GDDR6 |
| Radeon RX 7800XT | 12GB | GDDR6 |
Intel显卡
| 显卡型号 | 显存容量 | 显存类型 |
|---|---|---|
| Arc B580 | 12GB | GDDR6 |
| Arc B570 | 10GB | GDDR6 |
相关文章：
Deepseek部署的模型参数要求
DeepSeek 模型部署硬件要求 模型名称参数量显存需求（推理）显存需求（微调）CPU 配置内存要求硬盘空间适用场景DeepSeek-R1-1.5B1.5B4GB8GB最低 4 核（推荐多核）8GB3GB低资源设备部署，如树莓派、旧…...
AI-学习路线图-PyTorch-我是土堆
1 需求 PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】_哔哩哔哩_bilibili PyTorch 深度学习快速入门教程 配套资源 链接 视频教程 https://www.bilibili.com/video/BV1hE411t7RN/ 文字教程 https://blog.csdn.net/xiaotudui…...
[LeetCode]day17 349.两个数组的交集
https://leetcode.cn/problems/intersection-of-two-arrays/description/ 题目描述 给定两个数组 nums1 和 nums2 ，返回它们的交集。 输出结果中的每个元素一定是唯一的。 我们可以不考虑输出结果的顺序 。 示例 1： 输入：nums1 [1,2,2,1…...
axios 发起 post请求 json 需要传入数据格式
• 1. axios 发起 post请求 json 传入数据格式 • 2. axios get请求 1. axios 发起 post请求 json 传入数据格式 使用 axios 发起 POST 请求并以 JSON 格式传递数据是前端开发中常见的操作。 下面是一个简单的示例，展示如何使用 axios 向服务器发送包含 JSON 数…...
linux交叉编译paho-mqtt-c
下载源代码： https://github.com/eclipse-paho/paho.mqtt.c.git 编译： 如果mqtt不需要SSL安全认证，可以直接执行（注意把编译工具链路径改成自己的） cd paho.mqtt.c-1.3.13/ mkdir install # 创建安装目录 mkdir…...
)
feign Api接口中注解问题：not annotated with HTTP method type (ex. GET, POST)
Bug Description 在调用Feign api时，出现如下异常： java.lang.IllegalStateException: Method PayFeignSentinelApi#getPayByOrderNo(String) not annotated with HTTPReproduciton Steps 1.启动nacos-pay-provider服务，并启动nacos-pay-c…...
安装指定版本的pnpm
要安装指定版本的 pnpm，可以使用以下方法： 方法 1: 使用 pnpm 安装指定版本 你可以通过 pnpm 的 add 命令来安装指定版本： pnpm add -g pnpm<版本号>例如，安装 pnpm 的 7.0.0 版本： pnpm add -g pnpm7.0.0方法…...
【系统设计】Spring、SpringMVC 与 Spring Boot 技术选型指南：人群、场景与实战建议
在 Java 开发领域，Spring 生态的技术选型直接影响项目的开发效率、维护成本和长期扩展性。然而，面对 Spring、SpringMVC 和 Spring Boot 这三个紧密关联的框架，开发者常常陷入纠结：该从何入手？如何根据团队能力和业务需…...
常用数据结构之String字符串
字符串 在Java编程语言中，字符可以使用基本数据类型char来保存，在 Java 中字符串属于对象，Java 提供了 String 类来创建和操作字符串。 操作字符串常用的有三种类：String、StringBuilder、StringBuffer 接下来看看这三类常见用…...
深入Linux系列之进程地址空间
深入Linux系列之进程地址空间 1.引入 那么在之前的学习中，我们知道我们创建一个子进程的话，我们可以在代码层面调用fork函数来创建我们的子进程，那么fork函数的返回值根据我们当前所处进程的上下文是返回不同的值，它在父进程中返…...
HAL库外设宝典：基于CubeMX的STM32开发手册（持续更新）
目录 前言 GPIO（通用输入输出引脚） 推挽输出模式 浮空输入和上拉输入模式 GPIO其他模式以及内部电路原理 输出驱动器 输入驱动器 中断 外部中断（EXTI） 深入中断（内部机制及原理） 外部中断/事件控…...
网络安全-HSTS
什么是HSTS？ HTTP严格传输安全协议（HTTP Strict Transport Security，简称：HSTS） 是互联网安全策略机制。网站可以选择使用HSTS策略，来让浏览器强制使用HTTPS与网站进行通信，以减少会话劫持风险。…...
全程Kali linux---CTFshow misc入门（38-50）
第三十八题： ctfshow{48b722b570c603ef58cc0b83bbf7680d} 第三十九题： 37换成1，36换成0，就得到长度为287的二进制字符串，因为不能被8整除所以，考虑每7位转换一个字符，得到flag。 ctfshow{5281…...
HarmonyOS：时间日期国际化
一、使用场景 在不同的国家和文化中，时间和日期格式的表示方法有所不同，使用惯例的不同点包括：日期中年月日的顺序、时间中时分秒的分隔符等。若应用中需展示时间日期，要确保界面以合适的方式显示，以便用户能够理解。 …...
使用miniforge代替miniconda
conda作为Python数据科学领域的常用软件，是对Python环境及相关依赖进行管理的经典工具，通常集成在anaconda或miniconda等产品中供用户日常使用。 但长久以来，conda在很多场景下运行缓慢卡顿、库解析速度过慢等问题也一直被用户所诟病…...
LIMO：少即是多的推理
25年2月来自上海交大、SII 和 GAIR 的论文“LIMO: Less is More for Reasoning”。 一个挑战是在大语言模型（LLM）中的复杂推理。虽然传统观点认为复杂的推理任务需要大量的训练数据（通常超过 100,000 个示例），但本文展…...
【玩转 Postman 接口测试与开发2_018】第14章：利用 Postman 初探 API 安全测试
《API Testing and Development with Postman》最新第二版封面 文章目录 第十四章 API 安全测试1 OWASP API 安全清单1.1 相关背景1.2 OWASP API 安全清单1.3 认证与授权1.4 破防的对象级授权（Broken object-level authorization）1.5 破防的属性级授权&a…...
如何编写测试用例
代码质量管理是软件开发过程中的关键组成部分，比如我们常说的代码规范、代码可读性、单元测试和测试覆盖率等，对于研发人员来说单元测试和测试覆盖率是保障自己所编写代码的质量的重要手段；好的用例可以帮助研发人员确保代码质量和稳定性、减…...
)
复原IP地址(力扣93)
有了上一道题分割字符串的基础，这道题理解起来就会容易很多。相同的思想我就不再赘述，在这里我就说明一下此题额外需要注意的点。首先是终止条件如何确定，上一题我们递归到超过字符串长度时，则说明字符串已经分割完毕，…...
zzcms接口index.php id参数存在SQL注入漏洞
zzcms接口index.php id参数存在SQL注入漏洞 漏洞描述 ZZCMS 2023中发现了一个严重漏洞。该漏洞影响了文件/index.php中的某些未知功能,操纵参数id会导致SQL注入,攻击可能是远程发起的,该漏洞已被公开披露并可被利用。攻击者可通过sql盲注等手段，获取数据库信息。 威胁等级:…...
解决Ubuntu22.04 VMware失败的问题 ubuntu入门之二十八
现象1 打开VMware失败 Ubuntu升级之后打开VMware上报需要安装vmmon和vmnet，点击确认后如下提示 最终上报fail 解决方法 内核升级导致，需要在新内核下重新下载编译安装 查看版本 $ vmware -v VMware Workstation 17.5.1 build-23298084$ lsb_release…...
UDP(Echoserver)
网络命令 Ping 命令 检测网络是否连通 使用方法: ping -c 次数 网址ping -c 3 www.baidu.comnetstat 命令 netstat 是一个用来查看网络状态的重要工具. 语法：netstat [选项] 功能：查看网络状态 常用选项： n 拒绝显示别名&#…...
PL0语法，分析器实现！
简介 PL/0 是一种简单的编程语言，通常用于教学编译原理。它的语法结构清晰，功能包括常量定义、变量声明、过程（子程序）定义以及基本的控制结构（如条件语句和循环语句）。 PL/0 语法规范 PL/0 是一种教学用的小型编程语言，由 Niklaus Wirth 设计，用于展示编译原理的核…...
tree 树组件大数据卡顿问题优化
问题背景 项目中有用到树组件用来做文件目录，但是由于这个树组件的节点越来越多，导致页面在滚动这个树组件的时候浏览器就很容易卡死。这种问题基本上都是因为dom节点太多，导致的浏览器卡顿，这里很明显就需要用到虚拟列表的技术&…...
LLMs 系列实操科普（1）
写在前面： 本期内容我们继续 Andrej Karpathy 的《How I use LLMs》讲座内容，原视频时长 ~130 分钟，以实操演示主流的一些 LLMs 的使用，由于涉及到实操，实际上并不适合以文字整理，但还是决定尽量整理一份笔…...
DAY 26 函数专题1
函数定义与参数知识点回顾：1. 函数的定义2. 变量作用域：局部变量和全局变量3. 函数的参数类型：位置参数、默认参数、不定参数4. 传递参数的手段：关键词参数5 题目1：计算圆的面积 任务： 编写一…...
:LeetCode 142. 环形链表 II（Linked List Cycle II）详解)
Java详解LeetCode 热题 100(26):LeetCode 142. 环形链表 II（Linked List Cycle II）详解
文章目录 1. 题目描述1.1 链表节点定义 2. 理解题目2.1 问题可视化2.2 核心挑战 3. 解法一：HashSet 标记访问法3.1 算法思路3.2 Java代码实现3.3 详细执行过程演示3.4 执行结果示例3.5 复杂度分析3.6 优缺点分析 4. 解法二：Floyd 快慢指针法（…...
渗透实战PortSwigger Labs指南：自定义标签XSS和SVG XSS利用
阻止除自定义标签之外的所有标签 先输入一些标签测试，说是全部标签都被禁了 除了自定义的 自定义<my-tag onmouseoveralert(xss)> <my-tag idx onfocusalert(document.cookie) tabindex1> onfocus 当元素获得焦点时（如通过点击或键盘导航&…...
华为OD机考- 简单的自动曝光/平均像素
import java.util.Arrays; import java.util.Scanner;public class DemoTest4 {public static void main(String[] args) {Scanner in new Scanner(System.in);// 注意 hasNext 和 hasNextLine 的区别while (in.hasNextLine()) { // 注意 while 处理多个 caseint[] arr Array…...
宠物车载安全座椅市场报告：解读行业趋势与投资前景
一、什么是宠物车载安全座椅？ 宠物车载安全座椅是一种专为宠物设计的车内固定装置，旨在保障宠物在乘车过程中的安全性与舒适性。它通常由高强度材料制成，具备良好的缓冲性能，并可通过安全带或ISOFIX接口固定于车内。 近年来&…...