当前位置：首页 > news >正文

Windows搭建CUDA大模型Docker环境

news 2025/10/3 20:12:40

Windows搭建CUDA大模型Docker环境

一、安装Docker
二、拉取镜像
三、启动容器
四、安装依赖环境
五、安装Miniconda3
六、设置pip源地址

一、安装Docker

windows中docker安装教程

二、拉取镜像

系统：Ubuntu20.04
CUDA版本：11.8.0

docker pull nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04

三、启动容器

docker run --gpus=all -it --name llm_env -p 8080:8000 nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04

四、安装依赖环境

apt-get update -yq --fix-missing
DEBIAN_FRONTEND=noninteractive
apt-get install -yq --no-install-recommends pkg-config wget cmake curl git vim

五、安装Miniconda3

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
sh Miniconda3-latest-Linux-x86_64.sh -b -u -p ~/miniconda3
~/miniconda3/bin/conda init
source ~/.bashrc

六、设置pip源地址

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

Windows搭建CUDA大模型Docker环境

Windows搭建CUDA大模型Docker环境一、安装Docker二、拉取镜像三、启动容器四、安装依赖环境五、安装Miniconda3六、设置pip源地址一、安装Docker windows中docker安装教程二、拉取镜像系统：Ubuntu20.04CUDA版本：11.8.0 docker pull nvcr.io/nvid…...

编程日记 2025/2/16 11:08:00

【前端进阶】「全面优化前端开发流程」：利用规范化与自动化工具实现高效构建、部署与团队协作

利用规范化与自动化工具实现高效构建、部署与团队协作前言一、规范化1. ESLint / TSLintESLintTSLint 2. Stylelint3. Prettier4. 规范化总结二、自动化1. 自动化构建2. 自动化部署3. 自动化工作流4. 自动化总结总结前言前端工程化是为了提升开发效率、确保代码质量并增强…...

编程日记 2025/2/16 11:06:58

Linux入侵检查流程

1. 初步信息收集 1.1 系统信息 • 目的：了解当前系统的基本情况，包括操作系统版本、内核版本等。 • 命令： # 查看操作系统发行版信息 cat /etc/os-release # 查看内核版本 uname -r 1.2 网络信息 • 目的：查看网络连接状态、…...

编程日记 2025/2/16 11:05:56

Ubuntu24.04无脑安装docker（含图例）

centos系统请看这篇 Linux安装Docker教程（详解） 一. ubuntu更换软件源请看这篇：Ubuntu24.04更新国内源二. docker安装卸载老版docker(可忽略) sudo apt-get remove docker docker-engine docker.io containerd runc更新软件库 sudo a…...

编程日记 2025/2/16 11:04:55

简述下什么是伪元素什么是伪类

伪元素描述: 可以在dom中创建一个不存在的元素,并为其添加样式::before在已有的元素前面添加 ::after在已有的元素后面添加伪类描述: 在一个已有的元素中添加特定的状态或者行为:hover 鼠标悬停时产生的效果:active元被用户点击时的样式:link 链接被点击后的样式:fous 元…...

编程日记 2025/2/16 11:00:42

【C++】基础入门（详解）

🌟 Hello，我是egoist2023！ 🌍 种一棵树最好是十年前，其次是现在！ 目录输入&输出缺省参数(默认参数) 函数重载引用概念及定义特性及使用 const引用与指针的关系内联inline和nullptr in…...

编程日记 2025/2/16 10:58:36

Base64 PDF解析器

<!DOCTYPE html> <html lang="en"> <head><meta charset="UTF-8"><title>Base64 PDF解析器</title><style>body {font-family: Arial, sans-serif;max-width: 800px;margin: 20px auto;padding: 20px;}.contain…...

编程日记 2025/2/16 10:57:34

ZOJ 1011 NTA

原题目链接 1011 NTA NTA（非确定性树自动机）是一种树形结构装置，该装置内置有一套运行规则，通过这些规则，装置可以产生若干个信号，这些信号组成一个信号系统，在这样的系统中，一个信…...

编程日记 2025/2/16 10:56:32

使用 GPT-SoVITS 克隆声音，很详细

使用 GPT-SoVITS 克隆声音，很详细一、前言二、下载三、启动四、克隆声音1、准备克隆音频2、分离人声伴奏3、音频分割4、语音降噪5、ASR工具6、语音文本校对标注工具7、训练模型8、微调训练9、推理一、前言最近对文本转语言很感兴趣，但对直接在网站上…...

编程日记 2025/2/16 10:54:27

Flask和Django相比哪个更适合新手？

Flask 与 Django：哪个更适合新手？对于新手来说，选择 Flask 还是 Django 主要取决于你的具体需求和项目复杂度。以下是两者的详细对比，帮助你做出选择： 1. Flask 优点简单易用：Flask 是一个轻量级的微框架，代码简洁，易于理解和上手。适合初学者快速入门。灵活性高：…...

编程日记 2025/2/16 10:50:23

2. 图片性能优化

图片性能优化图片懒加载如何判断图片出现在了当前视口 （即如何判断我们能够看到图片）如何控制图片的加载原生实现 <img src"shanyue.jpg" loading"lazy" />loading"lazy" 延迟加载图像，直到它和视…...

编程日记 2025/2/16 10:47:19

多模态本地部署和ollama部署Llama-Vision实现视觉问答

文章目录一、模型介绍二、预期用途1. 视觉问答(VQA)与视觉推理2. 文档视觉问答(DocVQA)3. 图像字幕4. 图像-文本检索5. 视觉接地三、本地部署1. 下载模型2. 模型大小3. 运行代码四、ollama部署1. 安装ollama2. 安装 Llama 3.2 Vision 模型3. 运行 Llama 3.2-Vision 五、效果…...

编程日记 2025/2/16 10:42:08

cuML机器学习GPU库

cuML安装官网：Installation Guide - RAPIDS Docs 转载：Linux下cuML库的安装与Jupyter集成调试教程-CSDN博客...

编程日记 2025/2/16 10:40:05

机器学习数学基础：24.随机事件与概率

一、教程目标本教程致力于帮助零基础或基础薄弱的学习者，全面掌握概率论与数理统计的基础公式，透彻理解核心概念，熟练学会应用解题技巧，最终能够轻松应对期末或考研考试。二、适用人群特别适合那些对概率论与数理统计知识了…...

编程日记 2025/2/16 10:32:53

CAS单点登录（第7版）27.开发人员

如有疑问，请看视频：CAS单点登录（第7版） 开发人员 Javadocs文档 group org.apereo.cas has published 42 artifact(s) with total 8210 version(s) org.apereo.cas org apereo.cas 小组已出版 42 件作品，共 8210 个版…...

编程日记 2025/2/16 10:31:52

DeepSeek+即梦做AI视频

DeepSeek做AI视频制作流程第一步：DeepSeek 生成视频脚本和分镜第二步：生成分镜图片绘画提示词第三步：生成分镜图片第四步：使用可灵 AI 工具，将生成的图片转成视频。第五步：剪映成短视频 DeepSeek 真的强&…...

编程日记 2025/2/16 10:30:48

OpenMetadata 获取 MySQL 数据库表血缘关系详解

概述 OpenMetadata 是一个开源的元数据管理平台，支持端到端的血缘关系追踪。对于 MySQL 数据库，OpenMetadata 通过解析表的外键约束、视图定义及查询日志（可选）构建表级血缘。本文结合源码分析其实现机制。环境配置与数据摄取 1. 配置文件示例（YAML） source:type: my…...

编程日记 2025/2/16 10:27:40

计算机组成原理—— 总线系统（十二）

不要害怕失败，因为每一次跌倒都是站起来的前奏；不要畏惧未知，因为在探索的过程中你会发现未曾预见的美好。你的每一步努力都在为未来的成功铺路，即使现在看不到成果，但请相信积累的力量。那些看似平凡的努力&#xff0…...

编程日记 2025/2/16 10:25:36

详解如何使用Pytest内置Fixture tmp_path 管理临时文件

关注开源优测不迷路大数据测试过程、策略及挑战测试框架原理，构建成功的基石在自动化测试工作之前，你应该知道的10条建议在自动化测试中，重要的不是工具临时目录在测试中起着至关重要的作用，它为执行和验证代码提供了一个可控…...

编程日记 2025/2/16 10:24:34

Banana Pi OpenWRT One 官方路由器的第一印象

OpenWRT One是OpenWRT开源社区推出的首款官方开发板，与Banana Pi社区共同设计，由Banana Pi制造和发行。路由器采用蓝色铝合金外壳，质感极佳，视觉效果远超宣传图。整体设计简洁，呈长方形，虽然不是特别时尚&a…...

编程日记 2025/2/16 10:20:24

华为云AI开发平台ModelArts

华为云ModelArts：重塑AI开发流程的“智能引擎”与“创新加速器”！ 在人工智能浪潮席卷全球的2025年，企业拥抱AI的意愿空前高涨，但技术门槛高、流程复杂、资源投入巨大的现实，却让许多创新构想止步于实验室。数据科学家…...

编程新知 2025/10/2 9:09:06

vscode里如何用git

打开vs终端执行如下： 1 初始化 Git 仓库（如果尚未初始化） git init 2 添加文件到 Git 仓库 git add . 3 使用 git commit 命令来提交你的更改。确保在提交时加上一个有用的消息。 git commit -m "备注信息" 4 …...

编程新知 2025/8/24 20:45:38

突破不可导策略的训练难题：零阶优化与强化学习的深度嵌合

强化学习（Reinforcement Learning, RL）是工业领域智能控制的重要方法。它的基本原理是将最优控制问题建模为马尔可夫决策过程，然后使用强化学习的Actor-Critic机制（中文译作“知行互动”机制），逐步迭代求解…...

编程新知 2025/9/29 19:19:25

Springboot社区养老保险系统小程序

一、前言随着我国经济迅速发展，人们对手机的需求越来越大，各种手机软件也都在被广泛应用，但是对于手机进行数据信息管理，对于手机的各种软件也是备受用户的喜爱，社区养老保险系统小程序被用户普遍使用，为方…...

编程新知 2025/9/28 3:34:03

React---day11

14.4 react-redux第三方库提供connect、thunk之类的函数以获取一个banner数据为例子 store： 我们在使用异步的时候理应是要使用中间件的，但是configureStore 已经自动集成了 redux-thunk，注意action里面要返回函数 import { configureS…...

编程新知 2025/9/13 7:43:29

AGain DB和倍数增益的关系

我在设置一款索尼CMOS芯片时，Again增益0db变化为6DB，画面的变化只有2倍DN的增益，比如10变为20。这与dB和线性增益的关系以及传感器处理流程有关。以下是具体原因分析： 1. dB与线性增益的换算关系 6dB对应的理论线性增益应为&…...

编程新知 2025/9/30 16:23:57

Qemu arm操作系统开发环境

使用qemu虚拟arm硬件比较合适。步骤如下： 安装qemu apt install qemu-system安装aarch64-none-elf-gcc 需要手动下载，下载地址：https://developer.arm.com/-/media/Files/downloads/gnu/13.2.rel1/binrel/arm-gnu-toolchain-13.2.rel1-x…...

编程新知 2025/10/2 6:15:41