当前位置: 首页 > article >正文

deepseek从入门到精通-第一篇.本地化部署

 前言

 自从22年年底开始,人工智能开始从实验室一下子走入了普通人的视野中,chatgpt像一颗石子投入水中,溅起了一波又一波的涟漪。我们都通过各种方式试用大预言模型和机器进行对话或者提问。随着大语言模型的出现,各个类型的大模型也开始出现,文字生成图片,文字生成视频,文字生成音乐,文字生成3d模型等等。但当我们深入了解后会发现,很多网站的模型使用要会员,或者会受网络影响,我们很难自己直接使用自己的模型,加之受制于电脑的配置,更难训练自己的模型。随着时间的推移,时间来到了2025年,一个名为deepseek的大语言模型的出现,被各个科技行业的大佬所所推崇,一时间,deepseek迅速进入人们的视野中。Deepseek天然自带的开源,mit免费商用协议和本地化部署的模式,让我们每一个普通人都有了直接接触大模型的机会。而可部署在普通电脑上的1.5B版本的加持,使得我们的普通电脑都可以运行deepseek大语言模型,而不是单纯使用网上的api或者网页。

上面说了这么多,相信您也迫不及待的想要在自己的电脑上部署一个完全属于自己的大语言模型了吧。如果您有这个想法,但有无从下手,那么本专栏就很适合您,本专栏会详细介绍deepseek的新手级安装部署的步骤和方法以及需要避开的坑。本专栏在引导您入门deepseek之后,也会逐步讲解高级功能,讲解其中的原理甚至源码,让您慢慢对deepseek入门之后并精通掌握。

话不多数,先来完成部署的任务吧!

一.概述

Deepseek已有直接使用的在线版本,为什么要费劲本地化部署呢,主要为了达到以下使用效果:

  1. 运行速度更快不用依赖网络传输,系统反应更迅速,处理大规模数据更流畅不卡顿。
  2. 数据更加安全:本地部署让数据留在你的服务器上,不用担心数据泄露和信息安全问题
  3. 功能灵活定制:可以根据你的个人需求或企业需求,自由调整和优化系统,满足你的独特要求。
  4. 掌控力度更大:系统由你完全管理,随时维护和升级,不用担心外部服务中断或变更的影响。

二.安装步骤 

1.下载ollama安装包

在浏览器中输入ollama官网下载地址:https://ollama.com/download,选择当前电脑操作系统对应的安装包进行下载。

注意:官网下载速度很慢、大几个小时是正常的。可以通过迅雷等渠道下载、或者找别人已经下载好的安装包,我先后下载了v0.5.7和v0.5.11,有需要的可免费提供。

2.安装ollama

双击已下载的OllamaSetup.exe文件,在弹出安装页面点击“install”进行安装。

安装过程如下图所示:

安装成功后ollama图表会自动显示在电脑右下角系统托盘中,此时输入cmd,在运行命令中输入ollama -v ,可以查看当前成功安装版本。

3.本地部署deepseek-r1模型

访问ollama官网 (https://ollama.com/search)的model菜单中选择deepseek-r1,选择当前电脑匹配的版本

    4.选择模型

    在下图的右侧点击复制大模型安装命令,根据自己电脑GPU情况选择,对电脑要求最低的是1.5b,普通电脑可以安装7b和14b的,如下图:

    cmd

    在运行窗口中输入cmd,当前用户直接点击“”确定“或按Enter进入。若想以管理员身份运行(针对当前用户权限不足情形),输入cmd后,按ctrl+shift+enter进入即可:

    ollama run deepseek-r1:7B

      运行部署大模型,复制在deepseek-r1中复制的版本,如ollama run deepseek-r1:7B, 若之前未部署过,第一次运行会自动下载并部署,并显示最新进度,部署完成7b版本,当时用了半个多小时。

      部署成功会显示success,进度显示100%,此时即可进行对话使用,如下图所示;但是这种使用方式不够友好和美观,也难以保存历史记录,所以接下来讲介绍可视化软件chatbox的安装和配置。

      三.安装使用Chatbox

      1.下载

      windows系统点击免费下载,将目前最新版本Chatbox-1.9.8-Setup.exe下载保存。

      2.安装

      2.1 如果等待几秒下载没开始,则点击手动下载按钮,正常一两分钟即可下载成功。

      2.2.下载成功后,双击进行安装,安装选项默认即可,点击下一步。

      2.3.安装位置默认C盘,如果C盘空间不多,可以点击“浏览”选择其他盘进行安装。

      2.4.安装成功,点击“完成”即可。

      3.选择本地模型

      在弹出页面中点击“使用自己的API Key或本地模型”

      4.在弹出列表中选择Ollama API

      5.保存

      在弹出的设置页面,基本都用默认项即可,若之部署了一个deepseek模型,会直接显示在模型选择框中;如果部署了多个deepseek模型,则下拉选择并保存。

      四.试用

      在设置好的对话框中,就可以自由提问、让它当你的私人智慧小助理啦。

      上述安装的Chatbox为我们和deepseek提供了一个直观方便的本地对话交流页面,但是在体验友好性和知识库训练方面,还得看Cherry Studio 和 anything LLM。下篇文章会写一篇关于知识库训练的文章,到时候和将Cherry Studio 和 anything LLM使用效果做个对比分析。

      相关文章:

      deepseek从入门到精通-第一篇.本地化部署

      前言 自从22年年底开始,人工智能开始从实验室一下子走入了普通人的视野中,chatgpt像一颗石子投入水中,溅起了一波又一波的涟漪。我们都通过各种方式试用大预言模型和机器进行对话或者提问。随着大语言模型的出现,各个类型的大模型…...

      2025年SCI一区智能优化算法:真菌生长优化算法(Fungal Growth Optimizer,FGO),提供MATLAB代码

      一. 真菌生长优化算法(FGO) 真菌生长优化算法(Fungal Growth Optimizer,FGO)是一种新型的自然启发式元启发式算法,其灵感来源于自然界中真菌的生长行为。该算法通过模拟真菌的菌丝尖端生长、分支和孢子萌发…...

      一个行为类似标准库find算法的模板

      函数需要两个模板类型参数&#xff0c;一个表示函数的迭代器参数&#xff0c;另一个表示值的类型。 代码 #include<iostream> #include<string> #include<vector> #include<list>using namespace std;template <typename IterType,typename T>…...

      Ubutu部署WordPress

      前言 什么是word press WordPress是一种使用PHP语言开发的建站系统&#xff0c;用户可以在支持PHP和MySQL数据库的服务器上架设WordPress。它是一个开源的内容管理系统&#xff08;CMS&#xff09;&#xff0c;允许用户构建动态网站和博客。现在的WordPress已经强大到几乎可以…...

      网络渗透作业

      第一题&#xff1a;使用Xpath对Order by 语句进行布尔盲注 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns"http://www.w3.org/1999/xhtml&quo…...

      BIO、NIO、AIO解析

      一、基础概念 1、IO的含义 IO&#xff0c;Input/Output&#xff0c;即输入/输出。从计算机结构来看&#xff0c;IO描述了计算机系统和外部设备之间通讯的过程。从应用程序角度来看&#xff0c;一个进程的地址空间划分为 用户空间&#xff08;User space&#xff09; 和 内核空…...

      【Python网络爬虫笔记】14-使用代理绕过访问限制

      【Python网络爬虫笔记】14-网络代理 目录什么是代理&#xff1f;为什么需要使用代理&#xff1f;代理的类型如何在Python中使用代理&#xff1f;使用requests库设置代理使用urllib库设置代理使用scrapy框架设置代理 典型案例&#xff1a;使用代理爬取豆瓣电影Top250步骤1&#…...

      ⭐算法OJ⭐位操作实战(C++ 实现)190. Reverse Bits | 268. Missing Number | 338. Counting Bits

      文章目录 190. Reverse Bits逐位反转思路步骤代码复杂度分析 268. Missing Number338. Counting Bits动态规划 最低有效位思路步骤代码复杂度分析 动态规划 最后设置位思路步骤代码复杂度分析 190. Reverse Bits Reverse bits of a given 32 bits unsigned integer. 逐位反…...

      Linux中Shell运行原理和权限(下)(4)

      文章目录 前言一、Shell的运行原理二、Linux当中的权限问题Linux权限的概念如何将普通用户添加到信任列表 三、Linux权限管理文件访问者的分类&#xff08;人&#xff09;文件类型和访问权限&#xff08;事物属性&#xff09;文件权限值的表示方法文件访问权限的相关设置方法如…...

      Java中的缓存技术:Guava Cache vs Caffeine vs Redis

      在Java中&#xff0c;缓存技术是提升应用性能的重要手段。常见的缓存技术包括Guava Cache、Caffeine和Redis。它们各有优缺点&#xff0c;适用于不同的场景。以下是对它们的详细对比&#xff1a; 1. Guava Cache 类型: 本地缓存 特点: 基于内存的缓存&#xff0c;适用于单机应…...

      C# 弃元的使用

      总目录 前言 在C# 7.0及更高版本中&#xff0c;弃元&#xff08;Discard&#xff09;是一个新的语言特性&#xff0c;允许开发者在特定情况下忽略某些值。弃元用下划线 _ 作为占位符&#xff0c;明确表示忽略某个值&#xff0c;提升代码可读性 一、弃元是什么&#xff1f; 1.…...

      OceanBase数据库实战:Windows Docker部署与DBeaver无缝对接

      一、前言 OceanBase 是一款高性能、高可扩展的分布式数据库&#xff0c;适用于大规模数据处理和企业级应用。 随着大数据和云计算的普及&#xff0c;OceanBase 在企业数字化转型中扮演着重要角色。学习 OceanBase 可以帮助开发者掌握先进的分布式数据库技术&#xff0c;提升数…...

      技术速递|.NET 9 网络优化

      作者&#xff1a;Mňa&#xff0c;Natalia&#xff0c;Anton 排版&#xff1a;Alan Wang 秉承我们的传统&#xff0c;我们很高兴与您分享这篇博客文章&#xff0c;以介绍新的 .NET 版本中网络领域相关的最新动态和最有趣的变化。今年&#xff0c;我们带来了 HTTP 领域的改变、新…...

      如何让 Git 管理本地项目

      如何让 Git 管理本地项目&#xff1a;详细步骤指南 Git 是最流行的分布式版本控制系统&#xff0c;能够高效管理项目的代码变更历史。以下是将本地项目交给 Git 管理的完整流程&#xff0c;适用于首次使用 Git 的开发者。 一、前置条件 安装 Git 二、初始化 Git 仓库 进入项目…...

      如何进行OceanBase 运维工具的部署和表性能优化

      本文来自OceanBase 用户的实践分享 随着OceanBase数据库应用的日益深入&#xff0c;数据量不断攀升&#xff0c;单个表中存储数百万乃至数千万条数据的情况变得愈发普遍。因此&#xff0c;部署专门的运维工具、实施针对性的表性能优化策略&#xff0c;以及加强指标监测工作&…...

      Tag标签的使用

      一个非常适合运用在vue项目中的组件&#xff1a;Tag标签。 目录 一、准备工作 1、安装element-plus库 2、配置element-plus库 二、Tag标签入门 1、打开element官网&#xff0c;搜索tag标签 2、体验Tag标签的基础用法 三、Tag标签进阶训练1 1、定义一个数组&#xff0c;…...

      DeepSeek系统架构的逐层分类拆解分析,从底层基础设施到用户端分发全链路

      一、底层基础设施层 1. 硬件服务器集群 算力单元&#xff1a; GPU集群&#xff1a;基于NVIDIA H800/H100 GPU构建&#xff0c;单集群规模超10,000卡&#xff0c;采用NVLink全互联架构实现低延迟通信。国产化支持&#xff1a;适配海光DCU、寒武纪MLU等国产芯片&#xff0c;通过…...

      Linux:(3)

      一&#xff1a;Linux和Linux互传&#xff08;压缩包&#xff09; scp:Linux scp 命令用于 Linux 之间复制文件和目录。 scp 是 secure copy 的缩写, scp 是 linux 系统下基于 ssh 登陆进行安全的远程文件拷贝命令。 scp 是加密的&#xff0c;rcp 是不加密的&#xff0c;scp 是…...

      el-select滚动获取下拉数据;el-select滚动加载

      el-select下拉获取数据 1.解决问题2.封装MyScrollSelect组件3.使用MyScrollSelect组件 1.解决问题 场景&#xff1a;下拉数据量过大&#xff0c;后端提供一个分页查询接口&#xff1b;需要每次滚动加载下一页的下拉数据 且单选的状态&#xff0c;需要支持回显&#xff0c;通过n…...

      HarmonyOS 5.0应用开发——鸿蒙接入高德地图实现POI搜索

      【高心星出品】 文章目录 鸿蒙接入高德地图实现POI搜索运行结果&#xff1a;准备地图编写ArkUI布局来加载HTML地图 鸿蒙接入高德地图实现POI搜索 在当今数字化时代&#xff0c;地图应用已成为移动设备中不可或缺的一部分。随着鸿蒙系统的日益普及&#xff0c;如何在鸿蒙应用中…...

      计算机视觉(opencv-python)入门之常见图像处理基本操作(待补充)

      图像预处理是计算机视觉任务中的关键步骤&#xff0c;它通过对原始图像进行处理&#xff0c;以提高后续图像分析、特征提取和识别的准确性。 示例图片 目录 常见图像预处理方法 灰度化处理 法一 法二 说明 切片截取部分图像数据 cv2.cvtColor() 颜色空间转换 cv2.spli…...

      采用DDNS-GO与cloudflare实现双域名同时访问NAS

      这个标题其实解释的还不够清楚&#xff0c;本人是小白&#xff0c;但是买了群晖的NAS后自己瞎折腾了一下&#xff0c;遇到了如下的问题&#xff1a; 1、家里是移动宽带&#xff0c;没有公网IP&#xff0c;因此Ipv4无法使用&#xff0c;IPV6可以正常使用。 2、办公室场地采用的…...

      w803|联盛德|WM IoT SDK2.X测试|pinout|(2):w803开发板简介

      概述 W803-Pico是一款基于联盛德W803芯片为主控的开发板&#xff0c;支持IEEE802.11 b/g/n Wi-Fi&#xff0c;以及BT/BLE4.2协议蓝牙。芯片内置高性能32位处理器&#xff0c;主频高达240MHz。内置2MB Flash以及288KB RAM。硬件采用DIP封装&#xff0c;PCB板载天线&#xff0c;…...

      【UCB CS 61B SP24】Lecture 16 - Data Structures 2: ADTs, BSTs学习笔记

      本文首先介绍了抽象数据类型与树的概念&#xff0c;接着重点讲解二叉搜索树的定义与操作方式&#xff0c;并用 Java 实现一个标准的二叉搜索树结构。 1. 抽象数据类型 首先引入一个概念叫做抽象数据类型&#xff08;Abstract Data Type&#xff0c;ADT&#xff09;&#xff0…...

      RabbitMQ系列(零)概要

      一、消息队列总览 1. 什么是消息队列&#xff1f; 消息队列&#xff08;Message Queue&#xff09;是一种异步通信机制&#xff0c;允许分布式系统中的服务通过生产-消费模型传递数据。其核心价值在于&#xff1a; 解耦性&#xff1a;生产者与消费者无需同时在线或直接交互削…...

      Java 大视界 -- Java 大数据在智能物流路径规划与车辆调度中的创新应用(102)

      &#x1f496;亲爱的朋友们&#xff0c;热烈欢迎来到 青云交的博客&#xff01;能与诸位在此相逢&#xff0c;我倍感荣幸。在这飞速更迭的时代&#xff0c;我们都渴望一方心灵净土&#xff0c;而 我的博客 正是这样温暖的所在。这里为你呈上趣味与实用兼具的知识&#xff0c;也…...

      HarmonyOS Design 介绍

      HarmonyOS Design 介绍 文章目录 HarmonyOS Design 介绍一、HarmonyOS Design 是什么&#xff1f;1. 设计系统&#xff08;Design System&#xff09;2. UI 框架的支持3. 设计工具和资源4. 开发指南5. 与其他设计系统的对比总结 二、HarmonyOS Design 特点 | 应用场景1. Harmon…...

      云计算如何解决延迟问题?

      在云计算中&#xff0c;延迟&#xff08;latency&#xff09;指的是从请求发出到收到响应之间的时间间隔。延迟过高可能会严重影响用户体验&#xff0c;特别是在需要实时响应的应用中&#xff0c;如在线游戏、视频流、金融交易等。云计算服务如何解决延迟问题&#xff0c;通常依…...

      【算法系列】快速排序详解

      文章目录 快速排序的多种实现方式1. 基本快速排序&#xff08;Lomuto 分区方案&#xff09;1.1 基本原理1.2 步骤1.3 Java 实现示例 2. Hoare 分区方案2.1 基本原理2.2 步骤2.3 Java 实现示例 3. 三数取中法3.1 基本原理3.2 步骤3.3 Java 实现示例 4. 尾递归优化4.1 基本原理4.…...

      电脑键盘知识

      1、键盘四大功能区 1. 功能区 2. 主要信息输入区 3. 编辑区 4. 数字键盘区 笔记本电脑键盘的功能区&#xff0c;使用前需先按Fn键 1.1、功能区 ESC&#xff1a;退出 F1&#xff1a;显示帮助信息 F2&#xff1a;重命名 F4&#xff1a;重复上一步操作 F5&#xff1a;刷新网页 …...