Windows搭建CUDA大模型Docker环境
Windows搭建CUDA大模型Docker环境
- 一、安装Docker
- 二、拉取镜像
- 三、启动容器
- 四、安装依赖环境
- 五、安装Miniconda3
- 六、设置pip源地址
一、安装Docker
- windows中docker安装教程
二、拉取镜像
- 系统：Ubuntu20.04
- CUDA版本：11.8.0
docker pull nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04
三、启动容器
docker run --gpus=all -it --name llm_env -p 8080:8000 nvcr.io/nvidia/cuda:11.8.0-cudnn8-devel-ubuntu20.04
四、安装依赖环境
apt-get update -yq --fix-missing
DEBIAN_FRONTEND=noninteractive
apt-get install -yq --no-install-recommends pkg-config wget cmake curl git vim
五、安装Miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
sh Miniconda3-latest-Linux-x86_64.sh -b -u -p ~/miniconda3
~/miniconda3/bin/conda init
source ~/.bashrc
六、设置pip源地址
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
相关文章：
Windows搭建CUDA大模型Docker环境
Windows搭建CUDA大模型Docker环境 一、安装Docker二、拉取镜像三、启动容器四、安装依赖环境五、安装Miniconda3六、设置pip源地址 一、安装Docker windows中docker安装教程 二、拉取镜像 系统：Ubuntu20.04CUDA版本：11.8.0 docker pull nvcr.io/nvid…...
【前端进阶】「全面优化前端开发流程」：利用规范化与自动化工具实现高效构建、部署与团队协作
利用规范化与自动化工具实现高效构建、部署与团队协作 前言一、规范化1. ESLint / TSLintESLintTSLint 2. Stylelint3. Prettier4. 规范化总结 二、自动化1. 自动化构建2. 自动化部署3. 自动化工作流4. 自动化总结 总结 前言 前端工程化是为了提升开发效率、确保代码质量并增强…...
Linux入侵检查流程
1. 初步信息收集 1.1 系统信息 • 目的：了解当前系统的基本情况，包括操作系统版本、内核版本等。 • 命令： # 查看操作系统发行版信息 cat /etc/os-release # 查看内核版本 uname -r 1.2 网络信息 • 目的：查看网络连接状态、…...
Ubuntu24.04无脑安装docker（含图例）
centos系统请看这篇 Linux安装Docker教程（详解） 一. ubuntu更换软件源 请看这篇：Ubuntu24.04更新国内源 二. docker安装 卸载老版docker(可忽略) sudo apt-get remove docker docker-engine docker.io containerd runc更新软件库 sudo a…...
简述下什么是伪元素什么是伪类
伪元素 描述: 可以在dom中创建一个不存在的元素,并为其添加样式::before在已有的元素前面添加 ::after在已有的元素后面添加 伪类 描述: 在一个已有的元素中添加特定的状态或者行为:hover 鼠标悬停时产生的效果:active元被用户点击时的样式:link 链接被点击后的样式:fous 元…...
【C++】基础入门（详解）
🌟 Hello，我是egoist2023！ 🌍 种一棵树最好是十年前，其次是现在！ 目录 输入&输出 缺省参数(默认参数) 函数重载 引用 概念及定义 特性及使用 const引用 与指针的关系 内联inline和nullptr in…...
Base64 PDF解析器
<!DOCTYPE html> <html lang="en"> <head><meta charset="UTF-8"><title>Base64 PDF解析器</title><style>body {font-family: Arial, sans-serif;max-width: 800px;margin: 20px auto;padding: 20px;}.contain…...
ZOJ 1011 NTA
原题目链接 1011 NTA NTA（非确定性树自动机）是一种树形结构装置，该装置内置有一套运行规则，通过这些规则，装置可以产生若干个信号，这些信号组成一个信号系统，在这样的系统中，一个信…...
使用 GPT-SoVITS 克隆声音，很详细
使用 GPT-SoVITS 克隆声音，很详细 一、前言二、下载三、启动四、克隆声音1、准备克隆音频2、分离人声伴奏3、音频分割4、语音降噪5、ASR工具6、语音文本校对标注工具7、训练模型8、微调训练9、推理 一、前言 最近对文本转语言很感兴趣，但对直接在网站上…...
Flask和Django相比哪个更适合新手？
Flask 与 Django：哪个更适合新手？ 对于新手来说，选择 Flask 还是 Django 主要取决于你的具体需求和项目复杂度。以下是两者的详细对比，帮助你做出选择： 1. Flask 优点 简单易用：Flask 是一个轻量级的微框架，代码简洁，易于理解和上手。适合初学者快速入门。灵活性高：…...
2. 图片性能优化
图片性能优化 图片懒加载 如何判断图片出现在了当前视口 （即如何判断我们能够看到图片）如何控制图片的加载 原生实现 <img src"shanyue.jpg" loading"lazy" />loading"lazy" 延迟加载图像，直到它和视…...
多模态本地部署和ollama部署Llama-Vision实现视觉问答
文章目录 一、模型介绍二、预期用途1. 视觉问答(VQA)与视觉推理2. 文档视觉问答(DocVQA)3. 图像字幕4. 图像-文本检索5. 视觉接地 三、本地部署1. 下载模型2. 模型大小3. 运行代码 四、ollama部署1. 安装ollama2. 安装 Llama 3.2 Vision 模型3. 运行 Llama 3.2-Vision 五、效果…...
cuML机器学习GPU库
cuML安装官网：Installation Guide - RAPIDS Docs 转载：Linux下cuML库的安装与Jupyter集成调试教程-CSDN博客...
机器学习数学基础：24.随机事件与概率
一、教程目标 本教程致力于帮助零基础或基础薄弱的学习者，全面掌握概率论与数理统计的基础公式，透彻理解核心概念，熟练学会应用解题技巧，最终能够轻松应对期末或考研考试。 二、适用人群 特别适合那些对概率论与数理统计知识了…...
CAS单点登录（第7版）27.开发人员
如有疑问，请看视频：CAS单点登录（第7版） 开发人员 Javadocs文档 group org.apereo.cas has published 42 artifact(s) with total 8210 version(s) org.apereo.cas org apereo.cas 小组已出版 42 件作品，共 8210 个版…...
DeepSeek+即梦 做AI视频
DeepSeek做AI视频 制作流程第一步：DeepSeek 生成视频脚本和分镜 第二步：生成分镜图片绘画提示词第三步：生成分镜图片第四步：使用可灵 AI 工具，将生成的图片转成视频。第五步：剪映成短视频 DeepSeek 真的强&…...
OpenMetadata 获取 MySQL 数据库表血缘关系详解
概述 OpenMetadata 是一个开源的元数据管理平台，支持端到端的血缘关系追踪。对于 MySQL 数据库，OpenMetadata 通过解析表的外键约束、视图定义及查询日志（可选）构建表级血缘。本文结合源码分析其实现机制。 环境配置与数据摄取 1. 配置文件示例（YAML） source:type: my…...
计算机组成原理—— 总线系统（十二）
不要害怕失败，因为每一次跌倒都是站起来的前奏；不要畏惧未知，因为在探索的过程中你会发现未曾预见的美好。你的每一步努力都在为未来的成功铺路，即使现在看不到成果，但请相信积累的力量。那些看似平凡的努力࿰…...
详解如何使用Pytest内置Fixture tmp_path 管理临时文件
关注开源优测不迷路 大数据测试过程、策略及挑战 测试框架原理，构建成功的基石 在自动化测试工作之前，你应该知道的10条建议 在自动化测试中，重要的不是工具 临时目录在测试中起着至关重要的作用，它为执行和验证代码提供了一个可控…...
Banana Pi OpenWRT One 官方路由器的第一印象
OpenWRT One是OpenWRT开源社区推出的首款官方开发板，与Banana Pi社区共同设计，由Banana Pi制造和发行。路由器采用蓝色铝合金外壳，质感极佳，视觉效果远超宣传图。整体设计简洁，呈长方形，虽然不是特别时尚&a…...
web vue 项目 Docker化部署
Web 项目 Docker 化部署详细教程 目录 Web 项目 Docker 化部署概述Dockerfile 详解 构建阶段生产阶段 构建和运行 Docker 镜像 1. Web 项目 Docker 化部署概述 Docker 化部署的主要步骤分为以下几个阶段： 构建阶段（Build Stage）：…...
大数据学习栈记——Neo4j的安装与使用
本文介绍图数据库Neofj的安装与使用，操作系统：Ubuntu24.04，Neofj版本：2025.04.0。 Apt安装 Neofj可以进行官网安装：Neo4j Deployment Center - Graph Database & Analytics 我这里安装是添加软件源的方法 最新版…...
【Go】3、Go语言进阶与依赖管理
前言 本系列文章参考自稀土掘金上的 【字节内部课】公开课，做自我学习总结整理。 Go语言并发编程 Go语言原生支持并发编程，它的核心机制是 Goroutine 协程、Channel 通道，并基于CSP（Communicating Sequential Processes࿰…...
【AI学习】三、AI算法中的向量
在人工智能（AI）算法中，向量（Vector）是一种将现实世界中的数据（如图像、文本、音频等）转化为计算机可处理的数值型特征表示的工具。它是连接人类认知（如语义、视觉特征）与…...
均衡后的SNRSINR
本文主要摘自参考文献中的前两篇，相关文献中经常会出现MIMO检测后的SINR不过一直没有找到相关数学推到过程，其中文献[1]中给出了相关原理在此仅做记录。 1. 系统模型 复信道模型 n t n_t nt 根发送天线， n r n_r nr 根接收天线的 MIMO 系…...
智能AI电话机器人系统的识别能力现状与发展水平
一、引言 随着人工智能技术的飞速发展，AI电话机器人系统已经从简单的自动应答工具演变为具备复杂交互能力的智能助手。这类系统结合了语音识别、自然语言处理、情感计算和机器学习等多项前沿技术，在客户服务、营销推广、信息查询等领域发挥着越来越重要…...
Java + Spring Boot + Mybatis 实现批量插入
在 Java 中使用 Spring Boot 和 MyBatis 实现批量插入可以通过以下步骤完成。这里提供两种常用方法：使用 MyBatis 的 <foreach> 标签和批处理模式（ExecutorType.BATCH）。 方法一：使用 XML 的 <foreach> 标签ÿ…...
Java毕业设计：WML信息查询与后端信息发布系统开发
JAVAWML信息查询与后端信息发布系统实现 一、系统概述 本系统基于Java和WML(无线标记语言)技术开发，实现了移动设备上的信息查询与后端信息发布功能。系统采用B/S架构，服务器端使用Java Servlet处理请求，数据库采用MySQL存储信息࿰…...
Java数值运算常见陷阱与规避方法
整数除法中的舍入问题 问题现象 当开发者预期进行浮点除法却误用整数除法时，会出现小数部分被截断的情况。典型错误模式如下： void process(int value) {double half = value / 2; // 整数除法导致截断// 使用half变量 }此时...
vulnyx Blogger writeup
信息收集 arp-scan nmap 获取userFlag 上web看看 一个默认的页面，gobuster扫一下目录 可以看到扫出的目录中得到了一个有价值的目录/wordpress，说明目标所使用的cms是wordpress，访问http://192.168.43.213/wordpress/然后查看源码能看到 这…...