保姆级教程：用Python脚本搞定VisDrone和CARPK数据集，为YOLOv5/8训练做预处理

从零构建YOLO-ready数据集VisDrone与CARPK预处理实战指南当无人机视角遇上目标检测算法数据预处理成为模型效果的第一道门槛。VisDrone和CARPK作为两个典型的航拍数据集前者包含11类复杂目标与特殊忽略区域后者则采用绝对坐标标注——这种差异性让许多开发者从数据准备阶段就陷入困境。本文将手把手带您完成从原始标注到YOLO格式的完整转换流程不仅提供可直接运行的Python脚本更会深入解析每个关键步骤的设计逻辑。1. 环境准备与数据概览在开始处理前我们需要明确两个数据集的核心差异点。VisDrone2019-DET包含6471张图片标注文件采用bbox, ignore_flag, category格式其中需要特别处理class 0的忽略区域而CARPK作为纯车辆数据集其.txt标注直接存储xmin,ymin,xmax,ymax,class_id的绝对坐标。必备工具包安装pip install opencv-python tqdm pillow numpy建议按以下结构组织数据集目录datasets/ ├── VisDrone/ │ ├── annotations/ # 原始标注 │ ├── images/ # 对应图片 │ └── labels/ # 输出YOLO格式 └── CARPK/ ├── Annotations/ # 原始标注 ├── Images/ # 对应图片 └── labels/ # 输出YOLO格式注意VisDrone的测试集(test-dev)标注不公开如需评估需提交结果到官方服务器。本文处理主要针对训练集(train)和验证集(val)。2. VisDrone数据深度处理2.1 官方格式转换改造原始转换脚本存在三个典型问题未处理忽略区域、类别索引未优化、缺乏可视化验证。我们改进后的版本增加了以下特性def visdrone2yolo(dir_path): from PIL import Image from tqdm import tqdm def convert_box(size, box): dw, dh 1./size[0], 1./size[1] return (box[0] box[2]/2)*dw, (box[1] box[3]/2)*dh, box[2]*dw, box[3]*dh (dir_path / labels_yolo).mkdir(exist_okTrue) for anno_file in tqdm(list((dir_path / annotations).glob(*.txt))): img_file (dir_path / images / anno_file.name).with_suffix(.jpg) if not img_file.exists(): continue img_size Image.open(img_file).size valid_objects [] with open(anno_file) as f: for line in f.read().strip().splitlines(): parts list(map(int, line.split(,))) if parts[4] 1: # 跳过忽略区域 continue category parts[5] - 1 # 原始类别1-10转为0-9 bbox convert_box(img_size, parts[:4]) valid_objects.append(f{category} { .join(f{x:.6f} for x in bbox)}) if valid_objects: output_file dir_path / labels_yolo / anno_file.name with open(output_file, w) as f: f.write(\n.join(valid_objects))关键改进点增加图片存在性检查显式过滤忽略区域(parts[4] 1)保留6位小数精度使用pathlib增强跨平台兼容性2.2 智能类别合并策略VisDrone原始10类对于车辆检测过于细分我们通过映射字典实现灵活类别合并CLASS_MAPPING { # 车辆类合并 3: 0, # car - 0 4: 0, # van - 0 5: 0, # truck - 0 8: 0, # bus - 0 # 行人类合并 0: 1, # pedestrian - 1 1: 1, # people - 1 # 其他类丢弃 } def filter_categories(input_dir, output_dir): output_dir.mkdir(exist_okTrue) for label_file in tqdm(list(input_dir.glob(*.txt))): with open(label_file) as f: lines [line.strip().split() for line in f if line.strip()] filtered [] for line in lines: old_cls int(line[0]) if old_cls in CLASS_MAPPING: new_line [str(CLASS_MAPPING[old_cls])] line[1:] filtered.append( .join(new_line)) if filtered: with open(output_dir / label_file.name, w) as f: f.write(\n.join(filtered))该方案优势在于字典映射便于增删改类别自动跳过未定义类别保留原有坐标精度不变3. CARPK数据处理技巧3.1 绝对坐标转相对坐标CARPK的特殊性在于需要根据图像尺寸归一化坐标且要处理可能的越界情况def carpk2yolo(anno_dir, img_dir, output_dir): output_dir.mkdir(exist_okTrue) for anno_file in tqdm(list(anno_dir.glob(*.txt))): img_file img_dir / anno_file.name.replace(.txt, .png) if not img_file.exists(): continue img cv2.imread(str(img_file)) img_h, img_w img.shape[:2] with open(anno_file) as f: boxes [list(map(int, line.split())) for line in f if line.strip()] yolo_lines [] for box in boxes: xmin, ymin, xmax, ymax, cls box # 边界检查 xmin, xmax max(0, xmin), min(img_w-1, xmax) ymin, ymax max(0, ymin), min(img_h-1, ymax) # 坐标转换 x_center ((xmin xmax) / 2) / img_w y_center ((ymin ymax) / 2) / img_h width (xmax - xmin) / img_w height (ymax - ymin) / img_h yolo_lines.append( f{cls} {x_center:.6f} {y_center:.6f} {width:.6f} {height:.6f} ) if yolo_lines: with open(output_dir / anno_file.name, w) as f: f.write(\n.join(yolo_lines))提示CARPK所有目标的cls_id均为0如需与其他数据集联合训练建议统一类别ID体系。4. 质量验证与常见问题4.1 可视化校验方案开发这个可视化工具时我踩过三个坑颜色映射混乱、坐标反归一化错误、图像尺寸不匹配。最终方案如下def visualize_yolo_labels(img_dir, label_dir, output_dir, class_names): os.makedirs(output_dir, exist_okTrue) colors [(0,255,0), (255,0,0), (0,0,255)] # 按类别顺序 for img_file in tqdm(list(img_dir.glob(*.jpg))): label_file label_dir / img_file.with_suffix(.txt).name if not label_file.exists(): continue img cv2.imread(str(img_file)) h, w img.shape[:2] with open(label_file) as f: labels [line.strip().split() for line in f if line.strip()] for label in labels: cls_id, x, y, w_, h_ map(float, label) cls_id int(cls_id) # 反归一化 x_center, y_center x * w, y * h box_w, box_h w_ * w, h_ * h x1 int(x_center - box_w/2) y1 int(y_center - box_h/2) x2 int(x_center box_w/2) y2 int(y_center box_h/2) # 绘制 cv2.rectangle(img, (x1,y1), (x2,y2), colors[cls_id%3], 2) cv2.putText(img, class_names[cls_id], (x1,y1-5), cv2.FONT_HERSHEY_SIMPLEX, 0.5, colors[cls_id%3], 1) cv2.imwrite(str(output_dir / img_file.name), img)4.2 典型问题排查表问题现象可能原因解决方案标签文件为空原始标注全为忽略区域检查annotations内容可视化框偏移图像尺寸不匹配确认读取的是对应图片类别ID异常映射规则错误验证CLASS_MAPPING字典坐标值1未做归一化检查CARPK转换逻辑在最近的一个实际项目中我们发现有约5%的VisDrone标注存在边界框越界情况。这会导致训练时Loss异常波动建议在转换阶段添加如下边界约束# 在convert_box函数中添加 box [ max(0, min(box[0], img_w-1)), max(0, min(box[1], img_h-1)), max(1, min(box[2], img_w)), max(1, min(box[3], img_h)) ]5. 高效处理与扩展建议5.1 多进程加速方案当处理上万张图片时单进程转换效率低下。这里给出基于Python多进程的优化方案from multiprocessing import Pool def process_visdrone(args): 包装函数供多进程调用 img_file, anno_file, output_dir args # 包含之前完整的处理逻辑 ... if __name__ __main__: args_list [...] # 准备参数列表 with Pool(processes4) as pool: # 4进程并行 pool.map(process_visdrone, args_list)实测表明在8核CPU上处理VisDrone训练集(6471张)时间从单线程的12分钟降至2分钟。5.2 自定义数据集扩展本方案可轻松适配其他无人机数据集只需修改以下参数类别映射字典调整CLASS_MAPPING坐标转换逻辑根据原始格式实现新的convert_box忽略规则修改过滤条件例如处理UAVDT数据集时只需变更类别映射CLASS_MAPPING { 1: 0, # car 2: 0, # truck 3: 1 # pedestrian }最后分享一个实用技巧在完成所有转换后建议使用sha256sum校验文件完整性避免后续训练因数据问题中断。可以创建如下校验文件find datasets/ -type f -name *.txt -exec sha256sum {} \; checksums.txt