当前位置: 首页 > news >正文

服务器通过 ollama 运行deepseek r1

1、服务器环境简介

  • 56核 CPU
  • 64G 内存
  • 无显卡
  • 已安装 Ollama

2、下载模型与配置

正常可以通过 ollama pull 或 ollama run 命令直接下载,但通常会遇到连接超时、找不到网址等总理。因此,可以使用国内的模型站进行下载,在这里使用魔塔查找模型。

在这里,我下载了

DeepSeek-R1-Distill-Qwen-1.5B-GGUF

DeepSeek-R1-Distill-Qwen-7B-GGUF

两个版本

下载后,分别创建两个 txt 文件:

deepseek-r1-1.5B.txt,具体参数可依据使用情况修改

FROM ./DeepSeek-R1-Distill-Qwen-1.5B-Q8_0.gguf
PARAMETER temperature 0.7
PARAMETER top_p 0.95
PARAMETER top_k 40
PARAMETER repeat_penalty 1.1
PARAMETER min_p 0.05
PARAMETER num_ctx 8096
PARAMETER num_thread 4
PARAMETER stop "<|begin of sentence|>"
PARAMETER stop "<|end of sentence|>"
PARAMETER stop "<|User|>"
PARAMETER stop "<|Assistant|>"

 deepseek-r1-7B.txt,与1.5B 类似

FROM ./DeepSeek-R1-Distill-Qwen-1.5B-Q8_0.gguf
PARAMETER temperature 0.7
PARAMETER top_p 0.95
PARAMETER top_k 40
PARAMETER repeat_penalty 1.1
PARAMETER min_p 0.05
PARAMETER num_ctx 8096
PARAMETER num_thread 4
PARAMETER stop "<|begin of sentence|>"
PARAMETER stop "<|end of sentence|>"
PARAMETER stop "<|User|>"
PARAMETER stop "<|Assistant|>"

3、运行命令导入至 ollama

ollama create deepseek-r1:1.5B -f ./deepseek-r1-1.5B.txtollama create deepseek-r1:7B -f ./deepseek-r1-7B.txt

4、运行模型

ollama run deepseek-r1:7B

5、运行测试结论

1.5B:能够显示思考过程,问答效果不佳,胡编乱造内容较多,运行较流畅。

7B:能够显示思考过程,问答效果略好,有胡编乱选内容,运行响应很慢。

总结,这两个模型在这种配置的服务器上均可运行,但如果想得到较好的体验,这个配置远远不够。

相关文章:

服务器通过 ollama 运行deepseek r1

1、服务器环境简介 56核 CPU64G 内存无显卡已安装 Ollama 2、下载模型与配置 正常可以通过 ollama pull 或 ollama run 命令直接下载&#xff0c;但通常会遇到连接超时、找不到网址等总理。因此&#xff0c;可以使用国内的模型站进行下载&#xff0c;在这里使用魔塔查找模型…...

MYSQL学习笔记(九):MYSQL表的“增删改查”

前言&#xff1a; 学习和使用数据库可以说是程序员必须具备能力&#xff0c;这里将更新关于MYSQL的使用讲解&#xff0c;大概应该会更新30篇&#xff0c;涵盖入门、进阶、高级(一些原理分析);这一篇讲述一些在MYSQL的数据类型&#xff0c;和表的“增删改查”基本操作;虽然MYSQ…...

Oracle JDK、Open JDK zulu下载地址

一、Oracle JDK https://www.oracle.com/java/technologies/downloads/ 刚进去是最新的版本&#xff0c;往下滑可以看到老版本 二、Open JDK的 Azul Zulu https://www.azul.com/downloads/ 直接可以选版本等选项卡...

分类解析决策模型

一、按理性程度划分的决策模型 1. 完全理性模型(古典决策理论) 核心假设:决策者拥有完全信息,能计算所有选项的效用并选择最优解。数学模型: 期望效用理论(Expected Utility Theory, EU): E U = ∑ ( p i...

【SPIE出版,见刊快速,EI检索稳定,浙江水利水电学院主办】2025年物理学与量子计算国际学术会议(ICPQC 2025)

2025年物理学与量子计算国际学术会议&#xff08;ICPQC 2025&#xff09;将于2025年4月18-20日在中国杭州举行。本次会议旨在汇聚全球的研究人员、学者和业界专家&#xff0c;共同探讨物理学与量子计算领域的最新进展与前沿挑战。随着量子技术的快速发展&#xff0c;其在信息处…...

【网络】高级IO——Reactor版TCP服务器

1.什么是Reactor Reactor 是一种应用在服务器端的开发模式&#xff08;也有说法称 Reactor 是一种 IO 模式&#xff09;&#xff0c;目的是提高服务端程序的并发能力 它要解决什么问题呢&#xff1f; 传统的 thread per connection 用法中&#xff0c;线程在真正处理请求之前首…...

3.Docker常用命令

1.Docker启动类命令 1.启动Docker systemctl start docker 2.停止Docker systemctl stop docker 3.重启Docker systemctl restart docker 4.查看Docker状态 systemctl status docker 5.设置开机自启(执行此命令后每次Linux重启后将自启动Docker) systemctl enable do…...

【uni-app】对齐胶囊容器组件

代码碎片 <template><div><view :style"{ height: ${statusBarHeight}px }"></view><viewclass"":style"{height: ${menuButtonHeight menuButtonPadding * 2}px,width: ${menuButtonInfo.left}px,}"><slot …...

JUC并发—10.锁优化与锁故障

大纲 1.标志位修改场景优先使用volatile(服务优雅停机) 2.数值递增场景优先使用Atomic类(心跳计数器) 3.共享变量仅对当前线程可见的场景优先使用ThreadLocal(edits log的处理) 4.读多写少需要加锁的场景优先使用读写锁(服务注册表的并发读写) 5.尽量减少线程对锁占用时间…...

Java 大视界 -- 区块链赋能 Java 大数据:数据可信与价值流转(84)

&#x1f496;亲爱的朋友们&#xff0c;热烈欢迎来到 青云交的博客&#xff01;能与诸位在此相逢&#xff0c;我倍感荣幸。在这飞速更迭的时代&#xff0c;我们都渴望一方心灵净土&#xff0c;而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识&#xff0c;也…...

大数据学习之PB级音乐数据中心数仓综合项目(1)-理论知识和项目需求、歌曲热度与歌手热度排行

一、理论知识和项目需求 1.课程介绍 2.数据库与ER建模_数据库三范式 3.数据库与ER建模_ER实体关系模型 4.数据库与维度建模_数据仓库(DATA WAREHOUSE) 5.数据库与维度建模_数据库与数据仓库区别 6.数据库与维度建模_数据仓库的发展历程 7.数据库与维度建模_维度建模 8.数据库与…...

DeepSeek vs ChatGPT:AI 领域的华山论剑,谁主沉浮?

一、引言 在当今科技飞速发展的时代&#xff0c;人工智能&#xff08;AI&#xff09;已然成为推动各领域变革的核心力量。而在人工智能的众多分支中&#xff0c;自然语言处理&#xff08;NLP&#xff09;因其与人类日常交流和信息处理的紧密联系&#xff0c;成为了最受瞩目的领…...

七星棋牌顶级运营产品全开源修复版源码教程:6端支持,200+子游戏玩法,完整搭建指南(含代码解析)

棋牌游戏一直是移动端游戏市场中极具竞争力和受欢迎的品类&#xff0c;而七星棋牌源码修复版无疑是当前行业内不可多得的高质量棋牌项目之一。该项目支持 6大省区版本&#xff08;湖南、湖北、山西、江苏、贵州&#xff09;&#xff0c;拥有 200多种子游戏玩法&#xff0c;同时…...

本2硕9电子科学专业,想走linux或是嵌入式,要具体学哪些技术

​今天给大家分享的是一位粉丝的提问&#xff0c;本2硕9电子科学专业&#xff0c;想走linux或是嵌入式&#xff0c;要具体学哪些技术 接下来把粉丝的具体提问和我的回复分享给大家&#xff0c;希望也能给一些类似情况的小伙伴一些启发和帮助。 同学提问&#xff1a; 你好&…...

从混沌到有序:一个数据血缘分析的进化故事

从混沌到有序&#xff1a;一个数据血缘分析的进化故事 从混沌到有序的数据治理之路数据血缘的建设方法和实践路径数据血缘的实践场景和未来趋势。 数据就像流淌在企业血管中的血液&#xff0c;它的每一次流动、每一次转化都留下独特的印记。 作为数据工程师&#xff0c;我曾困惑…...

从猜想终结到算法革新,弹性哈希开启数据存储新篇章

目录 哈希表的前世今生基本原理从传统到现代&#xff1a;哈希表的演变历程 安德鲁 克拉皮文及其团队的创作历程弹性哈希详解基本原理优点技术细节 漏斗哈希解析基本原理优点技术细节 新算法的实际应用案例电子商务推荐系统金融交易监控系统社交媒体内容过滤物联网设备管理 结论…...

先进制造aps专题三十 用免费生产排程软件isuperaps进行长期生产计划制定

isuperaps是生产排产软件&#xff0c;同时也可以用来制定长期生产计划 通过isuperaps制定长期生产计划&#xff0c;一个指导原则就是大bom, 单工序&#xff0c;大bom的意思是bom中只包含主要的半成品和原料&#xff0c;单工序的意思是半成品/产品生产以工厂或车间为基本生产单…...

实验-安装Proteus

Ver V0.0 250222&#xff1a;安装Proteus8.17SP4 说明 &#xff08;1&#xff09;如果有找到Proteus8.17最后版本SP5&#xff0c;再更新了&#xff1b; &#xff08;2&#xff09;8.17是8X最后一个大版本&#xff0c;后面是Proteus9。 内容 下载&#xff1a; 链接:https…...

‌最新版DeepSeek保姆级安装教程:本地部署+避坑指南

大家好&#xff0c;我是冰河~~ 本文旨在提供一个全面且详细的DeepSeek本地部署指南&#xff0c;帮助大家在自己的设备上成功运行DeepSeek模型。无论你是AI领域的初学者还是经验丰富的开发者&#xff0c;都能通过本文的指导&#xff0c;轻松完成DeepSeek的本地部署。 一、本地…...

【学习笔记】Cadence电子设计全流程(三)Capture CIS 原理图绘制(1-8)

【学习笔记】Cadence电子设计全流程&#xff08;三&#xff09;Capture CIS 原理图绘制&#xff08;1&#xff09; 3.1 原理图设计思路3.2 Cadence 原理图的新建3.3 在原理图中添加元器件3.4 元器件对齐3.5 原理图元器件信号联通&#xff08;走线&#xff09;3.6 OrCAD Capture…...

在Visual Studio 2019中集成与实战Libtiff:从编译到图像处理

1. 环境准备与源码编译 在Visual Studio 2019中使用Libtiff处理专业图像前&#xff0c;需要先搭建好开发环境。我推荐从官方GitHub仓库下载最新稳定版的Libtiff源码&#xff08;当前最新为4.5.1版本&#xff09;&#xff0c;相比旧版有更好的兼容性和性能优化。下载后解压到不含…...

印度VEGA RISC-V处理器家族技术解析与应用

1. 印度VEGA RISC-V处理器家族深度解析印度政府通过电子信息技术部(MeitY)资助的"微处理器开发计划"(MDP)&#xff0c;由先进计算发展中心(C-DAC)成功研发了五款RISC-V架构处理器。这个被命名为VEGA的处理器系列覆盖了从嵌入式微控制器到支持Linux操作系统的多核处理…...

告别手动标注!用CloudCompare的CANUPO插件,5分钟搞定点云自动分类(附最新.prm文件获取指南)

5分钟解锁点云智能分类&#xff1a;CloudCompare CANUPO插件实战指南 激光雷达点云数据分类一直是三维建模领域的痛点——传统手动标注方式不仅耗时费力&#xff0c;而且结果往往受主观因素影响。想象一下&#xff0c;面对数百万个无序点云&#xff0c;如何快速区分地面、植被…...

避坑指南:在Ubuntu 16.04上从零搭建VINS-Mono环境(含ROS Kinetic、OpenCV 3.3.1、Ceres 1.14.0)

VINS-Mono环境配置全攻略&#xff1a;从版本对齐到避坑实践 在视觉惯性里程计&#xff08;VIO&#xff09;领域&#xff0c;VINS-Mono作为香港科技大学开源的经典方案&#xff0c;至今仍是许多研究者和工程师入门的首选框架。然而&#xff0c;其复杂的依赖环境和严格的版本要求…...

BiliDownloader:一站式智能下载B站视频的高效解决方案

BiliDownloader&#xff1a;一站式智能下载B站视频的高效解决方案 【免费下载链接】BiliDownloader BiliDownloader是一款界面精简&#xff0c;操作简单且高速下载的b站下载器 项目地址: https://gitcode.com/gh_mirrors/bi/BiliDownloader 在数字化学习与内容消费的时代…...

django-cacheops实战案例:构建高性能电商系统的缓存架构设计

django-cacheops实战案例&#xff1a;构建高性能电商系统的缓存架构设计 【免费下载链接】django-cacheops A slick ORM cache with automatic granular event-driven invalidation. 项目地址: https://gitcode.com/gh_mirrors/dj/django-cacheops 在当今电商领域&#…...

Phi-3-mini-4k-instruct-gguf效果惊艳:在HumanEval Python代码生成任务中通过率超72%

Phi-3-mini-4k-instruct-gguf效果惊艳&#xff1a;在HumanEval Python代码生成任务中通过率超72% 1. 模型简介 Phi-3-Mini-4K-Instruct是一个38亿参数的轻量级开源模型&#xff0c;采用GGUF格式提供。作为Phi-3系列的一员&#xff0c;这个模型经过精心训练&#xff0c;展现出…...

STM32 HAL库的SysTick心跳:从HAL_InitTick到HAL_Delay的完整链路解析与调试技巧

STM32 HAL库的SysTick心跳&#xff1a;从HAL_InitTick到HAL_Delay的完整链路解析与调试技巧 在嵌入式开发中&#xff0c;精确的时间控制往往是项目成败的关键。想象一下&#xff0c;当你精心设计的PID控制器因为微秒级的定时偏差而失去稳定性&#xff0c;或者通信协议因延时不准…...

抖音批量下载工具技术解析:如何高效获取去水印视频与直播回放

抖音批量下载工具技术解析&#xff1a;如何高效获取去水印视频与直播回放 【免费下载链接】douyin-downloader A practical Douyin downloader for both single-item and profile batch downloads, with progress display, retries, SQLite deduplication, and browser fallbac…...

如何用CustomTkinter快速构建现代化Python桌面应用界面

如何用CustomTkinter快速构建现代化Python桌面应用界面 【免费下载链接】CustomTkinter A modern and customizable python UI-library based on Tkinter 项目地址: https://gitcode.com/gh_mirrors/cu/CustomTkinter 你是否厌倦了传统Python桌面应用那种陈旧、单调的外…...