Windows搭建CUDA大模型Docker环境
Windows搭建CUDA大模型Docker环境
- 一、安装Docker
- 二、拉取镜像
- 三、启动容器
- 四、安装依赖环境
- 五、安装Miniconda3
- 六、设置pip源地址
一、安装Docker
- windows中docker安装教程
二、拉取镜像
- 系统：Ubuntu20.04
- CUDA版本：11.8.0
docker pull nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04
三、启动容器
docker run --gpus=all -it --name llm_env -p 8080:8000 nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04
四、安装依赖环境
apt-get update -yq --fix-missing
DEBIAN_FRONTEND=noninteractive
apt-get install -yq --no-install-recommends pkg-config wget cmake curl git vim
五、安装Miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
sh Miniconda3-latest-Linux-x86_64.sh -b -u -p ~/miniconda3
~/miniconda3/bin/conda init
source ~/.bashrc
六、设置pip源地址
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
相关文章：
Windows搭建CUDA大模型Docker环境
Windows搭建CUDA大模型Docker环境 一、安装Docker二、拉取镜像三、启动容器四、安装依赖环境五、安装Miniconda3六、设置pip源地址 一、安装Docker windows中docker安装教程 二、拉取镜像 系统：Ubuntu20.04CUDA版本：11.8.0 docker pull nvcr.io/nvid…...
【前端进阶】「全面优化前端开发流程」：利用规范化与自动化工具实现高效构建、部署与团队协作
利用规范化与自动化工具实现高效构建、部署与团队协作 前言一、规范化1. ESLint / TSLintESLintTSLint 2. Stylelint3. Prettier4. 规范化总结 二、自动化1. 自动化构建2. 自动化部署3. 自动化工作流4. 自动化总结 总结 前言 前端工程化是为了提升开发效率、确保代码质量并增强…...
Linux入侵检查流程
1. 初步信息收集 1.1 系统信息 • 目的：了解当前系统的基本情况，包括操作系统版本、内核版本等。 • 命令： # 查看操作系统发行版信息 cat /etc/os-release # 查看内核版本 uname -r 1.2 网络信息 • 目的：查看网络连接状态、…...
Ubuntu24.04无脑安装docker（含图例）
centos系统请看这篇 Linux安装Docker教程（详解） 一. ubuntu更换软件源 请看这篇：Ubuntu24.04更新国内源 二. docker安装 卸载老版docker(可忽略) sudo apt-get remove docker docker-engine docker.io containerd runc更新软件库 sudo a…...
简述下什么是伪元素什么是伪类
伪元素 描述: 可以在dom中创建一个不存在的元素,并为其添加样式::before在已有的元素前面添加 ::after在已有的元素后面添加 伪类 描述: 在一个已有的元素中添加特定的状态或者行为:hover 鼠标悬停时产生的效果:active元被用户点击时的样式:link 链接被点击后的样式:fous 元…...
【C++】基础入门（详解）
🌟 Hello，我是egoist2023！ 🌍 种一棵树最好是十年前，其次是现在！ 目录 输入&输出 缺省参数(默认参数) 函数重载 引用 概念及定义 特性及使用 const引用 与指针的关系 内联inline和nullptr in…...
Base64 PDF解析器
<!DOCTYPE html> <html lang="en"> <head><meta charset="UTF-8"><title>Base64 PDF解析器</title><style>body {font-family: Arial, sans-serif;max-width: 800px;margin: 20px auto;padding: 20px;}.contain…...
ZOJ 1011 NTA
原题目链接 1011 NTA NTA（非确定性树自动机）是一种树形结构装置，该装置内置有一套运行规则，通过这些规则，装置可以产生若干个信号，这些信号组成一个信号系统，在这样的系统中，一个信…...
使用 GPT-SoVITS 克隆声音，很详细
使用 GPT-SoVITS 克隆声音，很详细 一、前言二、下载三、启动四、克隆声音1、准备克隆音频2、分离人声伴奏3、音频分割4、语音降噪5、ASR工具6、语音文本校对标注工具7、训练模型8、微调训练9、推理 一、前言 最近对文本转语言很感兴趣，但对直接在网站上…...
Flask和Django相比哪个更适合新手？
Flask 与 Django：哪个更适合新手？ 对于新手来说，选择 Flask 还是 Django 主要取决于你的具体需求和项目复杂度。以下是两者的详细对比，帮助你做出选择： 1. Flask 优点 简单易用：Flask 是一个轻量级的微框架，代码简洁，易于理解和上手。适合初学者快速入门。灵活性高：…...
2. 图片性能优化
图片性能优化 图片懒加载 如何判断图片出现在了当前视口 （即如何判断我们能够看到图片）如何控制图片的加载 原生实现 <img src"shanyue.jpg" loading"lazy" />loading"lazy" 延迟加载图像，直到它和视…...
多模态本地部署和ollama部署Llama-Vision实现视觉问答
文章目录 一、模型介绍二、预期用途1. 视觉问答(VQA)与视觉推理2. 文档视觉问答(DocVQA)3. 图像字幕4. 图像-文本检索5. 视觉接地 三、本地部署1. 下载模型2. 模型大小3. 运行代码 四、ollama部署1. 安装ollama2. 安装 Llama 3.2 Vision 模型3. 运行 Llama 3.2-Vision 五、效果…...
cuML机器学习GPU库
cuML安装官网：Installation Guide - RAPIDS Docs 转载：Linux下cuML库的安装与Jupyter集成调试教程-CSDN博客...
机器学习数学基础：24.随机事件与概率
一、教程目标 本教程致力于帮助零基础或基础薄弱的学习者，全面掌握概率论与数理统计的基础公式，透彻理解核心概念，熟练学会应用解题技巧，最终能够轻松应对期末或考研考试。 二、适用人群 特别适合那些对概率论与数理统计知识了…...
CAS单点登录（第7版）27.开发人员
如有疑问，请看视频：CAS单点登录（第7版） 开发人员 Javadocs文档 group org.apereo.cas has published 42 artifact(s) with total 8210 version(s) org.apereo.cas org apereo.cas 小组已出版 42 件作品，共 8210 个版…...
DeepSeek+即梦 做AI视频
DeepSeek做AI视频 制作流程第一步：DeepSeek 生成视频脚本和分镜 第二步：生成分镜图片绘画提示词第三步：生成分镜图片第四步：使用可灵 AI 工具，将生成的图片转成视频。第五步：剪映成短视频 DeepSeek 真的强&…...
OpenMetadata 获取 MySQL 数据库表血缘关系详解
概述 OpenMetadata 是一个开源的元数据管理平台，支持端到端的血缘关系追踪。对于 MySQL 数据库，OpenMetadata 通过解析表的外键约束、视图定义及查询日志（可选）构建表级血缘。本文结合源码分析其实现机制。 环境配置与数据摄取 1. 配置文件示例（YAML） source:type: my…...
计算机组成原理—— 总线系统（十二）
不要害怕失败，因为每一次跌倒都是站起来的前奏；不要畏惧未知，因为在探索的过程中你会发现未曾预见的美好。你的每一步努力都在为未来的成功铺路，即使现在看不到成果，但请相信积累的力量。那些看似平凡的努力࿰…...
详解如何使用Pytest内置Fixture tmp_path 管理临时文件
关注开源优测不迷路 大数据测试过程、策略及挑战 测试框架原理，构建成功的基石 在自动化测试工作之前，你应该知道的10条建议 在自动化测试中，重要的不是工具 临时目录在测试中起着至关重要的作用，它为执行和验证代码提供了一个可控…...
Banana Pi OpenWRT One 官方路由器的第一印象
OpenWRT One是OpenWRT开源社区推出的首款官方开发板，与Banana Pi社区共同设计，由Banana Pi制造和发行。路由器采用蓝色铝合金外壳，质感极佳，视觉效果远超宣传图。整体设计简洁，呈长方形，虽然不是特别时尚&a…...
Docker 离线安装指南
参考文章 1、确认操作系统类型及内核版本 Docker依赖于Linux内核的一些特性，不同版本的Docker对内核版本有不同要求。例如，Docker 17.06及之后的版本通常需要Linux内核3.10及以上版本，Docker17.09及更高版本对应Linux内核4.9.x及更高版本。…...
（二）原型模式
原型的功能是将一个已经存在的对象作为源目标，其余对象都是通过这个源目标创建。发挥复制的作用就是原型模式的核心思想。 一、源型模式的定义 原型模式是指第二次创建对象可以通过复制已经存在的原型对象来实现，忽略对象创建过程中的其它细节。 📌 核心特点： 避免重复初…...
unix/linux，sudo，其发展历程详细时间线、由来、历史背景
sudo 的诞生和演化，本身就是一部 Unix/Linux 系统管理哲学变迁的微缩史。来，让我们拨开时间的迷雾，一同探寻 sudo 那波澜壮阔（也颇为实用主义）的发展历程。 历史背景：su的时代与困境 ( 20 世纪 70 年代 - 80 年代初) 在 sudo 出现之前，Unix 系统管理员和需要特权操作的…...
LLM基础1_语言模型如何处理文本
基于GitHub项目：https://github.com/datawhalechina/llms-from-scratch-cn 工具介绍 tiktoken：OpenAI开发的专业"分词器" torch：Facebook开发的强力计算引擎，相当于超级计算器 理解词嵌入：给词语画"…...
【JavaSE】绘图与事件入门学习笔记
-Java绘图坐标体系 坐标体系-介绍 坐标原点位于左上角，以像素为单位。 在Java坐标系中,第一个是x坐标,表示当前位置为水平方向，距离坐标原点x个像素;第二个是y坐标，表示当前位置为垂直方向，距离坐标原点y个像素。 坐标体系-像素 …...
网络编程（UDP编程）
思维导图 UDP基础编程（单播） 1.流程图 服务器：短信的接收方 创建套接字 (socket)-----------------------------------------》有手机指定网络信息-----------------------------------------------》有号码绑定套接字 (bind)--------------…...
dify打造数据可视化图表
一、概述 在日常工作和学习中，我们经常需要和数据打交道。无论是分析报告、项目展示，还是简单的数据洞察，一个清晰直观的图表，往往能胜过千言万语。 一款能让数据可视化变得超级简单的 MCP Server，由蚂蚁集团 AntV 团队…...
初学 pytest 记录
安装 pip install pytest用例可以是函数也可以是类中的方法 def test_func():print()class TestAdd: # def __init__(self): 在 pytest 中不可以使用__init__方法 # self.cc 12345 pytest.mark.api def test_str(self):res add(1, 2)assert res 12def test_int(self):r…...
【JavaSE】多线程基础学习笔记
多线程基础 -线程相关概念 程序（Program） 是为完成特定任务、用某种语言编写的一组指令的集合简单的说:就是我们写的代码 进程 进程是指运行中的程序，比如我们使用QQ，就启动了一个进程，操作系统就会为该进程分配内存…...
破解路内监管盲区：免布线低位视频桩重塑停车管理新标准
城市路内停车管理常因行道树遮挡、高位设备盲区等问题，导致车牌识别率低、逃费率高，传统模式在复杂路段束手无策。免布线低位视频桩凭借超低视角部署与智能算法，正成为破局关键。该设备安装于车位侧方0.5-0.7米高度，直接规避树枝遮…...