在CentOS服务器上部署DeepSeek R1
在CentOS服务器上部署DeepSeek R1，并通过公网IP与其进行对话，可以按照以下步骤操作：
一、环境准备
系统要求：
CentOS 8+（需支持AVX512指令集）。
硬件配置：
GPU版本：NVIDIA驱动520+，CUDA 11.8+。
CPU版本：至少16核处理器，64GB内存。
存储空间：原始模型需要30GB，量化后约8-20GB。
安装基础工具：
更新系统并安装必要的编译工具：
一定要买GPU服务器。
sudo yum update -y
sudo yum install -y cmake g++ python3-devel
二、安装Ollama及DeepSeek R1模型
安装Ollama核心组件：
curl -fsSL https://ollama.com/install.sh | sh
这里的下载速度可能会特别慢，建议自己配hosts。
安装模型转换工具：
pip3.8 install llama-cpp-python[server] --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
这一步可能依赖版本，g++版本不兼容一直导致报错，建议通过docker方式进行部署。
我自己用的是pip3.8，可根据pip版本自行调整。
下载DeepSeek R1原始模型：
相关文章：
在CentOS服务器上部署DeepSeek R1
在CentOS服务器上部署DeepSeek R1，并通过公网IP与其进行对话，可以按照以下步骤操作： 一、环境准备 系统要求： CentOS 8+（需支持AVX512指令集）。 硬件配置： GPU版本：NVIDIA驱动520+，CUDA 11.8+。 CPU版本：至少16核处理器，64GB内存。 存储空间：原始模型需要30GB，量…...
算法随笔_36: 复写零
上一篇:算法随笔_35: 每日温度-CSDN博客 题目描述如下: 给你一个长度固定的整数数组 arr ，请你将该数组中出现的每个零都复写一遍，并将其余的元素向右平移。 注意：请不要在超过该数组长度的位置写入元素。请对输入的数组 就地 进行上述修改…...
MoonBit 编译器（留档学习）
MoonBit 编译器 MoonBit 是一个用户友好，构建快，产出质量高的编程语言。 MoonBit | Documentation | Tour | Core This is the source code repository for MoonBit, a programming language that is user-friendly, builds fast, and produces high q…...
使用 DeepSeek-R1 与 AnythingLLM 搭建本地知识库
一、下载地址Download Ollama on macOS 官方网站：Ollama 官方模型库：library 二、模型库搜索 deepseek r1 deepseek-r1:1.5b 私有化部署deepseek，模型库搜索 deepseek r1 运行cmd复制命令：ollama run deepseek-r1:1.5b 私有化…...
网络工程师 （13）时间管理
一、定义与重要性 项目时间管理是指为确保项目按时完成而采取的一系列规划、安排和控制活动。它始于项目启动阶段，贯穿整个项目生命周期，直至项目结束。时间管理对于项目的成功至关重要，它有助于项目团队明确工作目标和时间节点，增…...
【xdoj-离散线上练习】T251（C++）
解题反思： 开始敲代码前想清楚整个思路比什么都重要嘤嘤嘤！看到输入m, n和矩阵，注意不能想当然地认为就是高m，宽n的矩阵，细看含义 比如本题给出了树的邻接矩阵，就是n*n的，代码实现中没有用到m这…...
定时器按键tim_key模版
低优先级放在高优先级内势必是程序卡死 把高优先级放到低优先级内，会使程序卡死 可修改 Debuger调试方法 Pwm rcc #include "my_main.h" uint8_t led_sta0x10; char text[30]; void LED_Disp(uint8_t dsLED) {HAL_GPIO_WritePin(GPIOC,GPIO_PIN_All,GPI…...
Kanass快速安装配置教程(入门级)
Kanass是一款国产开源免费的项目管理工具，工具简洁易用、开源免费，本文将介绍如何快速安装配置kanass，以快速上手。 1、快速安装 1.1 Linux 安装 点击官网 -> 演示与下载 ->下载，下载Linux安装包，…...
无用知识之：std::initializer_list的秘密
先说结论，用std::initializer_list初始化vector，内部逻辑是先生成了一个临时数组，进行了拷贝构造，然后用这个数组的起终指针初始化initializer_list。然后再用initializer_list对vector进行初始化，这个动作又触发了拷贝…...
论文阅读笔记 —— 英文论文常见缩写及含义
正文 缩写全称含义Reference发音w.r.twith reference to关于, 根据WRT - Wikiet al.拉丁语et alia的缩写等等Et Al. | Meaning & Use in APA, MLA & Chicago–etc拉丁语et cetera的缩写等等ETC - Cambridge DictionaryWhat’s ‘etc.’ an abbreviation of (and what …...
实验9 JSP访问数据库（二）
实验9 JSP访问数据库（二） 目的： 1、熟悉JDBC的数据库访问模式。 2、掌握预处理语句的使用 实验要求： 1、使用Tomcat作为Web服务器 2、通过JDBC访问数据库，实现增删改查功能的实现 3、要求提交实验报告，将代…...
[c语言日寄]C语言类型转换规则详解
【作者主页】siy2333 【专栏介绍】⌈c语言日寄⌋：这是一个专注于C语言刷题的专栏，精选题目，搭配详细题解、拓展算法。从基础语法到复杂算法，题目涉及的知识点全面覆盖，助力你系统提升。无论你是初学者，还是…...
Airflow：选择合适执行器扩展任务执行
Apache Airflow是面向开发人员使用的，以编程方式编写、调度和监控的数据流程平台。可伸缩性是其关键特性之一，Airflow支持使用不同的执行器来执行任务。在本文中，我们将深入探讨如何利用这些执行器在Airflow中有效地扩展任务执行。 理解Airfl…...
使用冒泡排序模拟实现qsort函数
1.冒泡排序 #define _CRT_SECURE_NO_WARNINGS 1 #include <stdio.h>int main() {int arr[] { 0,2,5,3,4,8,9,7,6,1 };int sz sizeof(arr) / sizeof(arr[0]);//冒泡排序一共排序 sz-1 趟for (int i 0; i < sz - 1; i){//标志位，如果有序，直接…...
AI大模型开发原理篇-4：神经概率语言模型NPLM
神经概率语言模型（NPLM）概述 神经概率语言模型（Neural Probabilistic Language Model, NPLM） 是一种基于神经网络的语言建模方法，它将传统的语言模型和神经网络结合在一起，能够更好地捕捉语言中的复杂规律…...
Eigen::Tensor使用帮助
0 引言 用python实现了某些算法之后，想转成C来获取更高的性能。但是python数组的操作太灵活了，尤其是3维、4维、5维等高维数组，以及它们的广播、数组坐标、切片等机制。还有numpy的pad、where等操作更是给C转换带来了更多的麻烦。 查阅了相…...
git基础使用--3---git安装和基本使用
文章目录 git基础使用--3--git-安装和基本使用1. git工具安装1.1 git1.2 TortoiseGit1.3 远程仓2. git本地仓库版本管理2.1 git常用命令2.2 git基本操作2.2.1 设置用户名和邮箱 2.2 git基本操作2.2.1 初始化本地仓 git init2.2.2 查看本地库状态 git status2.2.3 添加暂缓区2.2…...
html的字符实体和颜色表示
在HTML中，颜色可以通过以下几种方式表示，以下是具体的示例： 1. 十六进制颜色代码 十六进制颜色代码以#开头，后面跟随6个字符，每两个字符分别表示红色、绿色和蓝色的强度。例如： • #FF0000：纯红…...
OpenAI发布o3-mini：免费推理模型，DeepSeek引发的反思
引言 在人工智能领域，OpenAI再次引领潮流，推出了全新的推理模型系列——o3-mini。这一系列包括low、medium和high三个版本，旨在进一步推动低成本推理的发展。与此同时，OpenAI的CEO奥特曼也在Reddit的“有问必答”活动中罕见地公开…...
Zemax 中带有体素探测器的激光谐振腔
激光谐振腔是激光系统的基本组成部分，在光的放大和相干激光辐射的产生中起着至关重要的作用。 激光腔由两个放置在光学谐振器两端的镜子组成。一个镜子反射率高（后镜），而另一个镜子部分透明（输出耦合器）。…...
visual studio 2022更改主题为深色
visual studio 2022更改主题为深色 点击visual studio 上方的 工具-> 选项 在选项窗口中，选择 环境 -> 常规 ，将其中的颜色主题改成深色 点击确定，更改完成...
【解密LSTM、GRU如何解决传统RNN梯度消失问题】
解密LSTM与GRU：如何让RNN变得更聪明？ 在深度学习的世界里，循环神经网络（RNN）以其卓越的序列数据处理能力广泛应用于自然语言处理、时间序列预测等领域。然而，传统RNN存在的一个严重问题——梯度消失&#…...
服务器硬防的应用场景都有哪些？
服务器硬防是指一种通过硬件设备层面的安全措施来防御服务器系统受到网络攻击的方式，避免服务器受到各种恶意攻击和网络威胁，那么，服务器硬防通常都会应用在哪些场景当中呢？ 硬防服务器中一般会配备入侵检测系统和预防系统&#x…...
2.Vue编写一个app
1.src中重要的组成 1.1main.ts // 引入createApp用于创建应用 import { createApp } from "vue"; // 引用App根组件 import App from ./App.vue;createApp(App).mount(#app)1.2 App.vue 其中要写三种标签 <template> <!--html--> </template>…...
postgresql|数据库|只读用户的创建和删除（备忘）
CREATE USER read_only WITH PASSWORD 密码 -- 连接到xxx数据库 \c xxx -- 授予对xxx数据库的只读权限 GRANT CONNECT ON DATABASE xxx TO read_only; GRANT USAGE ON SCHEMA public TO read_only; GRANT SELECT ON ALL TABLES IN SCHEMA public TO read_only; GRANT EXECUTE O…...
用docker来安装部署freeswitch记录
今天刚才测试一个callcenter的项目，所以尝试安装freeswitch 1、使用轩辕镜像 - 中国开发者首选的专业 Docker 镜像加速服务平台 编辑下面/etc/docker/daemon.json文件为 {"registry-mirrors": ["https://docker.xuanyuan.me"] }同时可以进入轩…...
如何在网页里填写 PDF 表格？
有时候，你可能希望用户能在你的网站上填写 PDF 表单。然而，这件事并不简单，因为 PDF 并不是一种原生的网页格式。虽然浏览器可以显示 PDF 文件，但原生并不支持编辑或填写它们。更糟的是，如果你想收集表单数据ÿ…...
让回归模型不再被异常值“带跑偏“，MSE和Cauchy损失函数在噪声数据环境下的实战对比
在机器学习的回归分析中，损失函数的选择对模型性能具有决定性影响。均方误差（MSE）作为经典的损失函数，在处理干净数据时表现优异，但在面对包含异常值的噪声数据时，其对大误差的二次惩罚机制往往导致模型参数…...
【Go语言基础【13】】函数、闭包、方法
文章目录 零、概述一、函数基础1、函数基础概念2、参数传递机制3、返回值特性3.1. 多返回值3.2. 命名返回值3.3. 错误处理 二、函数类型与高阶函数1. 函数类型定义2. 高阶函数（函数作为参数、返回值） 三、匿名函数与闭包1. 匿名函数（Lambda函…...
推荐 github 项目:GeminiImageApp(图片生成方向，可以做一定的素材)
推荐 github 项目:GeminiImageApp(图片生成方向，可以做一定的素材) 这个项目能干嘛? 使用 gemini 2.0 的 api 和 google 其他的 api 来做衍生处理 简化和优化了文生图和图生图的行为(我的最主要) 并且有一些目标检测和切割(我用不到) 视频和 imagefx 因为没 a…...