服务器数据迁移
写在前面:为满足业务需求,我们采购了一台新的高性能服务器,现在想把旧服务器中的用户文件以及conda环境等迁移到新服务器中去。为了保证迁移过程尽可能不出错,并且迁移后新的服务器可以直接使用,以下方案提供一个稳健、可复用、最小出错概率的迁移方案,适用于:
✅ 将用户的数据文件和环境配置(zsh, conda等)分开迁移
✅ 保留
.zshrc
、.oh-my-zsh/
配置✅ 保留
~/.cache/torch/hub/checkpoints/
下的模型权重✅ 明确控制每类数据迁移的位置
迁移的内容可以这样分类:
类别 | 路径 | 内容示例 | 是否需要迁移 | 建议方式 |
---|---|---|---|---|
数据类文件 | ~/projects/ , ~/data/ | 代码、实验结果、文档 | ✅ | 独立打包或 rsync |
Conda 环境 | ~/miniconda3/ or ~/anaconda3/ | 所有环境 | ✅(“导出重建”方/conda-pack打包) | 环境导出 + 重建 |
环境配置文件 | ~/.zshrc , ~/.bashrc , ~/.condarc | shell配置、conda配置 | ✅ | rsync 迁移即可 |
权重文件 | ~/.cache/torch/hub/checkpoints/ | 模型 .pth 文件 | ✅ | rsync |
一、用户文件和配置文件的迁移
✅ 1、迁移用户项目目录 1_project_documents/
把以下指令的username替换为真实的用户名称
,newserver替换为新服务器的真实IP地址;
rsync -aP /home/username/1_project_documents/ username@newserver:/home/username/1_project_documents/
注意:
(1)/home/username/(末尾有 /):表示复制目录内部内容,而非整个文件夹层级;
(2)模拟执行测试:在不真正执行复制操作的情况下,模拟将旧服务器 /home/username/
目录下的1_project_documents文件传输到新服务器 username@newserver
的 /home/username/
目录下,并显示会传输的文件列表。
rsync -aP --dry-run /home/username/.zshrc* username@newserver:/home/username/
组件 | 含义 |
---|---|
rsync | 用于远程同步文件和目录的工具 |
-a | 归档模式,保留所有权限、软链接、时间戳、用户组等 |
-P | 显示进度 + 支持断点续传(等同于 --progress --partial ) |
--dry-run | 模拟执行,不实际复制文件,只显示会复制哪些文件 |
✅ 2、迁移 .cache/torch/
模型缓存
rsync -aP /home/username/.cache/torch/ username@newserver:/home/username/.cache/torch/
✅ 3、迁移 .zshrc
, .zshrc.*
, .zsh_history
rsync -aP /home/username/.zshrc* username@newserver:/home/username/
rsync -aP /home/username/.zsh_history username@newserver:/home/username/
✅ 4、 迁移 .oh-my-zsh/
插件主题目录
rsync -aP /home/zhanghejian/.oh-my-zsh/ user@newserver:/home/zhanghejian/.oh-my-zsh/
注意:从旧服务器 rsync
迁移过来的文件,所属用户/用户组和你新服务器本地自己创建的文件不一致,执行以下指令,
sudo chown -R username:username /home/username
-
-R
: 递归修改整个 home 目录下所有文件夹和文件; -
username:username
: 将 user 和 group 都设置为当前用户;
二、conda环境的迁移
✅ 1、首先,在新的服务器中安装与旧服务器相同版本的miniconda包
bash Miniconda3-latest-Linux-x86_64.sh
✅ 2、配置conda国内镜像(中科大)
channels:- https://mirrors.ustc.edu.cn/anaconda/cloud/pytorch/- https://mirrors.ustc.edu.cn/anaconda/cloud/menpo/- https://mirrors.ustc.edu.cn/anaconda/cloud/bioconda/- https://mirrors.ustc.edu.cn/anaconda/cloud/msys2/- https://mirrors.ustc.edu.cn/anaconda/cloud/conda-forge/- https://mirrors.ustc.edu.cn/anaconda/pkgs/free/- https://mirrors.ustc.edu.cn/anaconda/pkgs/main/- https://repo.anaconda.com/pkgs/main- https://repo.anaconda.com/pkgs/r
show_channel_urls: true
✅ 3、旧服务器的conda环境进行打包
(1)在旧服务器中的base环境中安装conda-pack包;
conda activate base
conda install -c conda-forge conda-pack
(2)在 base 环境下打包目标环境,这里以catapro为例;
# -n catapro 表示打包名为 catapro 的环境, -o 参数指定打包路径和名称
conda-pack -n catapro -o catapro-packed.tar.gz
(3)将打包文件传到新服务器上;
scp catapro-packed.tar.gz username@newserver:/home/username/conda_envs_packed
(4)在新服务器上解压并修复环境;
# 创建在miniconda的envs目录下创建环境文件夹
mkdir -p ~/miniconda/envs/catapro# 解压(假设打包前环境名为 myenv)
tar -xzf catapro-packed.tar.gz -C ~/miniconda/envs/catapro# 进入新环境目录(根据打包时的名字)
cd ~/miniconda/envs/catapro# 修复路径
./bin/conda-unpack
注意:
1)conda-unpack
的作用是:修复Conda环境中硬编码的原始路径,解决“路径失效”问题;2)当你使用
conda-pack
打包一个环境时,它会记录原服务器上环境路径(比如/home/username/miniconda3/envs/catapro
),解压到新服务器时路径变了,很多包(特别是.pth
、.so
文件)里的路径可能无法正确引用;3)执行 ./bin/conda-unpack 该指令之后,它会:替换掉旧路径、重建软链接、清除缓存路径信息、修复
bin/python
等引用问题;⚠️ 如果你不运行这步,环境激活可能会失败或行为异常!
完成以上,基本上新的服务器就可以正常使用了,使用起来跟以前一样丝滑流畅!
相关文章:
服务器数据迁移
写在前面:为满足业务需求,我们采购了一台新的高性能服务器,现在想把旧服务器中的用户文件以及conda环境等迁移到新服务器中去。为了保证迁移过程尽可能不出错,并且迁移后新的服务器可以直接使用,以下方案提供一个稳健、…...
VB.NET与SQL连接问题解决方案
1.基本连接步骤 使用SqlConnection、SqlCommand和SqlDataReader进行基础操作: vb.net Imports System.Data.SqlClient Public Sub ConnectToDatabase() Dim connectionString As String "ServermyServerAddress;DatabasemyDataBase;Integrated Security…...

商用密码 vs 普通密码:安全加密的核心区别
商用密码 vs 普通密码:安全加密的核心区别 一. 引言:密码的世界二. 什么是普通密码?三. 什么是商用密码?四. 普通密码 vs 商用密码:核心区别五. 选择合适的密码方案六. 结语 前言 肝文不易,点个免费的赞和…...

MYSQL中的分库分表及产生的分布式问题
分库分表是分布式数据库架构中常用的优化手段,用于解决单库单表数据量过大、性能瓶颈等问题。其核心思想是将数据分散到多个数据库(分库)或多个表(分表)中,以提升系统的吞吐量、查询性能和可扩展性。 一&am…...
拥塞控制算法cubic 和bbr
1. 背景 CUBIC 和 BBR 是两种用于网络流量控制的拥塞控制算法,广泛应用于传输中,本质上是用于提升网络速度、稳定性和效率的方案。CUBIC 和 BBR 在本质思想、设计目标和工作方式上存在很大的差异,以下是两者的详细对比。 1.1 CUBIC 提出者…...

投影机三色光源和单色光源实拍对比:一场视觉体验的终极较量
一、光源技术:从 “单色模拟” 到 “三色原生” 的进化 (一)单色光源:白光的 “色彩魔术” 单色光源投影机采用单一白光作为基础光源,通过LCD上出现色彩呈现颜色。这种技术路线的优势在于成本可控,早期被广…...

电子电气架构 --- 下一代汽车电子电气架构中的连接性
我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 钝感力的“钝”,不是木讷、迟钝,而是直面困境的韧劲和耐力,是面对外界噪音的通透淡然。 生活中有两种人,一种人格外在意别人的眼光;另一种人无论…...
解析极限编程-拥抱变化(第2版)笔记
思维导图(转载) https://www.cnblogs.com/OneFri/p/17055449.html 极限编程(XP)是以人为核心、响应变化、持续交付价值的软件开发方法论 1.核心思想与价值观 XP 建立在 5 个核心价值观 之上: 价值观含义说明沟通团…...

手写Tomcat(一)
一、Tomcat简介 Tomcat 服务器是一个免费的开放源代码的Web应用服务器,属于轻量级应用服务器,在中小型系统和并发访问用户不是很多的场合下被普遍使用,是开发和调试JSP 程序的首选。 1.1 Tomcat基本架构 Servlet接口文件中定义的方法有以下…...

【机器学习基础】机器学习入门核心算法:支持向量机(SVM)
机器学习入门核心算法:支持向量机(SVM) 一、算法逻辑1.1 基本概念1.2 核心思想线性可分情况 二、算法原理与数学推导2.1 原始优化问题2.2 拉格朗日对偶2.3 对偶问题2.4 核函数技巧2.5 软间隔与松弛变量 三、模型评估3.1 评估指标3.2 交叉验证…...

定时清理流媒体服务器录像自动化bash脚本
定时清理流媒体服务器保存录像文件夹 首先创建一个文件,解除读写权限 touch rm_videos.sh chmod 777 rm_videos.sh将内容复制进去,将对应文件夹等需要修改的内容,根据自己的实际需求进行修改 #!/bin/bash# 设置目标目录(修改为你的实际路…...

Logi鼠标切换桌面失效
Mac上习惯了滑屏切换桌面,所以Logi鼠标也定制了切换桌面的动作,有一天发现这个动作失效了,且只有切换桌面的动作失效。 发现Logi Options出现了这个提示,如图所示(具体原因未知,已配置不自动更新版本&…...
Go语言之匿名字段与组合 -《Go语言实战指南》
Go 没有传统的面向对象继承机制,但它通过“匿名字段(embedding)”实现了类似继承的组合方式,使得一个类型可以“继承”另一个类型的字段和方法。 一、什么是匿名字段 匿名字段就是在结构体中嵌套一个类型而不显式命名字段名。该字…...
Linux 进阶命令篇
一、Linux 系统软件安装命令 (一)Ubuntu 系统(基于 Debian) apt :是 Ubuntu 系统中常用的包管理工具,可以自动处理软件依赖关系。 安装命令格式 :sudo apt install 软件名 示例 :…...
OpenCV CUDA模块图像处理------颜色空间处理之拜耳模式去马赛克函数demosaicing()
操作系统:ubuntu22.04 OpenCV版本:OpenCV4.9 IDE:Visual Studio Code 编程语言:C11 算法描述 该函数用于在 GPU 上执行拜耳图像(Bayer Pattern)的去马赛克操作(Demosaicing),将单通…...

2025年全国青少年信息素养大赛复赛C++集训(15):因子问题(题目及解析)
2025年全国青少年信息素养大赛复赛C集训(15):因子问题(题目及解析) 题目描述 任给两个正整数N、M,求一个最小的正整数a,使得a和(M-a)都是N的因子。 时间限制:10000 内存限制&…...
如何通过仿真软件优化丝杆升降机设计
通过仿真软件优化丝杆升降机设计可从多维度入手,以下为具体方法和分析: 一、基于有限元分析的结构优化 材料优化:通过ANSYS等软件建立三维模型,施加实际工况载荷(如轴向力、径向力、扭矩),计算…...

Vue3进阶教程:1.初次了解vue
1.初次了解vue vue文件目录和各个文件在这里不做介绍 此课程对针对有点vue基础的同学,或者看过我上部分vue的教程 与之前我的Vue教程不同的是,写法和内容有区别 真正的了解Vue3 1.创建vue组件 1.npm create vuelatest 2.取名 3.TS要选上 4.其他先不选 5…...

WordPress免费网站模板下载
大背景图免费wordpress建站模板 这个wordpress模板设计以简约和专业为主题,旨在为用户提供清晰、直观的浏览体验。以下是对其风格、布局和设计理念的详细介绍: 风格 简约现代:整体设计采用简约风格,使用了大量的白色和灰色调&am…...

【深度学习新浪潮】以图搜地点是如何实现的?(含大模型方案)
1. 以图搜地点的实现方式有哪些? 扫描手机照片中的截图并识别出位置信息,主要有以下几种实现方式: 通过照片元数据获取: 原理:现代智能手机拍摄的照片通常会包含Exif(Exchangeable Image File)元数据。Exif中除了有像素信息之外,还包含了光圈、快门、白平衡、ISO、焦距…...

element的el-table翻页选中功能
el-table翻页选中功能 row-key"enterpriseWorkerId" selection-change"handleSelectionChange"<el-table-column type"selection" :reserve-selection"true" width"55"></el-table-column>stuMultipleList: []…...

Python打卡训练营学习记录Day38
知识点回顾: Dataset类的__getitem__和__len__方法(本质是python的特殊方法)Dataloader类minist手写数据集的了解 作业:了解下cifar数据集,尝试获取其中一张图片 import torch import torch.nn as nn import torch.opt…...

deepseek开源资料汇总
参考:DeepSeek“开源周”收官,连续五天到底都发布了什么? 目录 一、首日开源-FlashMLA 二、Day2 DeepEP 三、Day3 DeepGEMM 四、Day4 DualPipe & EPLB 五、Day5 3FS & Smallpond 总结 一、首日开源-FlashMLA 多头部潜在注意力机制&#x…...
CollUtil详解
CollUtil 是 Hutool 工具库中的一个工具类,专门用于操作集合(Collection)。它提供了许多静态方法,可以简化对集合的常见操作,例如判断集合是否为空、合并集合、过滤集合等。 以下是关于 CollUtil 的详细介绍和常用方法…...
Elasticsearch的运维
Elasticsearch 运维工作详解:从基础保障到性能优化 Elasticsearch(简称 ES)作为分布式搜索和分析引擎,其运维工作需要兼顾集群稳定性、性能效率及数据安全。以下从核心运维模块展开说明,结合实践场景提供可落地的方案…...

Linux编辑器——vim的使用
vim是一款多模式的编辑器。 基本操作:vim打开默认是命令模式,也就是输入命令然后系统执行指令,想要写代码,只需输入字母i,就进入插入模式,写完代码想要退出,按一下Esc,退回到命令模…...

线性回归原理推导与应用(八):逻辑回归二分类乳腺癌数据分类
乳腺癌数据是sklearn中自带的数据集,需要通过相关特征对是否患有乳腺癌进行分类。 数据清洗与建模 首先加载相关库和相关数据 from sklearn.datasets import load_breast_cancer from sklearn.linear_model import LogisticRegression import numpy as np import…...

Jenkins分配对应项目权限与用户管理
在日常开发过程中经常会出现用户和权限管理问题,没有配置trigger时,通常需要我们手动构建,但此时前端和后端的朋友没有build权限,导致每次dev环境测试都需要麻烦我们手动去构建,消息传达不及时则会降低开发效率。 现有…...

Mate桌面环境系统与终端模拟器参数配置
说明: MATE桌面环境在使用中会优化一些参数配置,例如:电源选项、屏幕配置、字体配置、终端模拟器(Mate Terminal)配置等等。 通常工程师会根据自己喜好调整一些参数,修改后参数的保存位置在/home/u…...

fabric 是一个开源框架,用于使用 AI 增强人类能力。它提供了一个模块化框架,用于使用一组可在任何地方使用的众包人工智能提示来解决特定问题
一、软件介绍 文末提供程序和源码下载 fabric 是一个开源框架,用于使用 AI 增强人类能力。它提供了一个模块化框架,用于使用一组可在任何地方使用的众包人工智能提示来解决特定问题。 二、What and why 什么和为什么 自 2023 年初和 GenAI 以来&…...