jjzjj

【python 目标检测】基于深度学习的道路破损检测|yolov5|VOC

活成自己的样子啊 2023-09-10 原文

前不久从大数据局那里接到了一个任务,让我们做一个道路破损的目标检测,上网搜了一搜,发现资料并不是很多。

torch  1.11.0

torchvision  0.12.0

python  3.8

anaconda

2080Ti

 数据集是大数据局的,不方便上传。

大部分长这样:图片有部分是带有破损的,可能是避开关键信息吧,我也不是很清楚,但是也是可以传入模型进行训练,精度肯定会收到影响,不过影响甚微。

大数据的图片并不是很多,但是用于目标检测是足够了,由于道路破损相对于其他的物体检测显得更为困难,因为它没有固定的形状,大部分都是不规则的裂缝,所以我们又自己找了一些数据集来扩充训练:

下面是之前道路破损比赛的一个官网信息,里面可以下载到数据集。

Overview | 2020 IEEE International Conference on Big Data (sekilab.global)https://rdd2020.sekilab.global/overview/该数据集包含不同国家的道路图像,它们是日本、印度、捷克。

导师建议使用yolov5模型进行训练:

GitHub - ultralytics/yolov5: YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLitehttps://github.com/ultralytics/yolov5

对于yolov5来说,超参数都配置在.\data\hyps\下面;模型都配置在.\models\的下面的yaml文件。

数据集需要如上图所示配置:

datasets--

        voc--

                Annotations--所有标注(voc)

                images--所有图像

                ImageSets--

                        Main--

yolov5-master--

上图VOC里面的3个py文件:

find_none_xml.py:找到所有没有标注框的xml文件

import os
import xml.etree.ElementTree as ET

xml_path = r"Annotations"

signed = 1
print('------------------无标签------------------')
for step, each_xml in enumerate(os.listdir(xml_path)):
    if each_xml.split('.')[-1] == 'xml':
        with open(xml_path + '/' + each_xml, encoding='utf8') as fp:
            try:
                tree = ET.parse(fp)
                root = tree.getroot()
                size = root.find('object')
                if size is None:
                    signed = 0
                    print('| ', each_xml)  # 打印没有框的xml文件
            except:
                print(each_xml)


if signed == 1:
    print('| 所有标签均正常')
    print('-----------------------------------------')
else:
    print('--------请检查以上文件的标签是否正确!--------')

makeTXT.py:把所有数据划分成为训练集、验证集、测试集

"""生成Main里面的4个txt文件,对应每一个图片名称"""
import os
import random

traintest_percent = 0.9  # 测试集的比例(1-traintest_percent)
train_percent = 0.8  # 训练集和测试集的比例(训练集的占比)

xmlfilepath = 'Annotations'  # xml
txtsavepath = 'ImageSets'   # 训练集、验证集、测试集的路径
total_xml = os.listdir(xmlfilepath)  # 所有xml的名称

num = len(total_xml)
list = range(num)  # 【0, num - 1】
tv = int(num * traintest_percent)  # 验证集和训练集的数量
tr = int(tv * train_percent)  # 训练集数量
# sample(list, k)返回一个长度为k新列表,新列表存放list所产生k个随机唯一的元素
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('ImageSets/Main/trainval.txt', 'w')
ftest = open('ImageSets/Main/test.txt', 'w')
ftrain = open('ImageSets/Main/train.txt', 'w')
fval = open('ImageSets/Main/val.txt', 'w')

for i in list:
    # [:-4]切掉后4位(.xml)
    name = total_xml[i][:-4] + '\n'

    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftrain.write(name)
        else:
            fval.write(name)
    else:
        ftest.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

xml2txt.py:生成yolov5模型所必须的txt文件(最后一步)

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join

# sets设置的就是
sets = ['train', 'val', 'test']

# 类别
classes = ["0"]  # 寻找类别(这里写自己标注的类别就行)

# 转换成yolo格式的标注【类别, x代表标注中心横坐标在图像中的比例,y代表标注中心纵坐标在图像中的比例,w表示标注框宽占比,h表示标注框高占比】
def convert(size, box):
    dw = 1. / size[0]
    dh = 1. / size[1]
    x = (box[0] + box[1]) / 2.0 - 1
    y = (box[2] + box[3]) / 2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)


def convert_annotation(image_id):
    in_file = open('Annotations/%s.xml' % image_id, encoding='utf8')
    out_file = open('labels/%s.txt' % image_id, 'w')

    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)

    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')

        # b是2个坐标的4个值
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))

        bb = convert((w, h), b)

        # 【类别, x代表标注中心横坐标在图像中的比例,y代表标注中心纵坐标在图像中的比例,w表示标注框宽占比,h表示标注框高占比】
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


wd = getcwd()  # D:\pycharm-project\yolo\datasets\VOC

# sets:train、val、test
for image_set in sets:
    #  创建labels
    if not os.path.exists('labels/'):
        os.makedirs('labels/')

    image_ids = open('ImageSets/Main/%s.txt' % image_set).read().strip().split()
    list_file = open('%s.txt' % image_set, 'w')

    # 对每一张进行操作
    for image_id in image_ids:
        list_file.write(wd + '\\images/%s.jpg\n' % image_id)  # 写入每一个图片的路径
        convert_annotation(image_id)
    list_file.close()

同级目录下非必须脚本:

open_txt.py(将测试集单独分出)

import os
from shutil import copyfile

test_path = r'test.txt'
target_path = r'tests'

if not os.path.isdir(target_path):
    os.mkdir(target_path)

with open(test_path) as fp:
    all_img = fp.read()
    each_img = all_img.split()

    for images in each_img:
        img_name = images.split('/')[-1]
        copyfile(images, target_path + '/' + img_name)
        print(img_name, '复制完毕')
    fp.close()

 之后不要忘记了配置一下环境:

pip install -r requirements.txt [-i 其他源]

 布置好我们的数据集,我们直接运行train.py即可!

注意:

这里我们不是分了4类(比赛根据不同的破损类型分了4类),而是只用了一个类别,即所有的道路破损。

我们需要对数据集配置文件进行修改:

voc_myself.yaml:

train: ../datasets/VOC/train.txt #此处是/而不是\
val: ../datasets/VOC/val.txt #此处是/而不是\
test: ../datasets/VOC/test.txt #此处是/而不是\

# Classes
nc: 1  # number of classes 数据集类别数量
names: ['0']  # class names 数据集类别名称,注意和标签的顺序对应

终端运行进行训练: 

python train.py --cfg .\models\yolov5n.yaml --data .\data\voc_myself.yaml --hyp .\data\hyps\hyp.VOC.yaml --epochs 200 --imgsz 416 --device 0 --single-cls --name first_train --optimizer AdamW --workers 4

经过一系列调参之后的预测结果:

注:

预测是使用的detect.py脚本,如果想看测试集的指标,可以使用val.py脚本(其他yolov5版本也叫test.py)。

作者使用的detect.py是自己微调过的。


为了进一步提高精度,我们之后使用了当时比赛冠军的开源代码:

GitHub - USC-InfoLab/rddc2020: road damage detection challenge 2020https://github.com/USC-InfoLab/rddc2020注意:冠军使用的配置文件和最新版yolov5不一样。

冠军代码训练效果图预览:

通过Recall、Precision Ap指标可以得到冠军的参数配置更有利于道路破损的拟合。

冠军的超参数文件:

hyp.myself.yaml:

lr0: 0.01
lrf: 0.2
momentum: 0.937
weight_decay: 0.0005
warmup_epochs: 3.0
warmup_momentum: 0.8
warmup_bias_lr: 0.1
giou: 0.05
cls: 0.5
cls_pw: 1.0
obj: 1.0
obj_pw: 1.0
iou_t: 0.2
anchor_t: 4.0
fl_gamma: 0.0
hsv_h: 0.015
hsv_s: 0.7
hsv_v: 0.4
degrees: 0.0
translate: 0.1
scale: 0.5
shear: 0.0
perspective: 0.0
flipud: 0.0
fliplr: 0.5
mosaic: 1.0
mixup: 0.0

相较之下:

yolov5的新提出的一个数据增强未被使用:copy_paste(分割填补 )

边框回归,从最初的IoU到GIoU,随后yolov5又提出了DIoU到CIoU作为边框回归的指标,可以看到冠军的代码是较早的yolov5版本。


 

感谢观看!!! 

有关【python 目标检测】基于深度学习的道路破损检测|yolov5|VOC的更多相关文章

  1. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  2. ruby - RuntimeError(自动加载常量 Apps 多线程时检测到循环依赖 - 2

    我收到这个错误:RuntimeError(自动加载常量Apps时检测到循环依赖当我使用多线程时。下面是我的代码。为什么会这样?我尝试多线程的原因是因为我正在编写一个HTML抓取应用程序。对Nokogiri::HTML(open())的调用是一个同步阻塞调用,需要1秒才能返回,我有100,000多个页面要访问,所以我试图运行多个线程来解决这个问题。有更好的方法吗?classToolsController0)app.website=array.join(',')putsapp.websiteelseapp.website="NONE"endapp.saveapps=Apps.order("

  3. Python 相当于 Perl/Ruby ||= - 2

    这个问题在这里已经有了答案:关闭10年前。PossibleDuplicate:Pythonconditionalassignmentoperator对于这样一个简单的问题表示歉意,但是谷歌搜索||=并不是很有帮助;)Python中是否有与Ruby和Perl中的||=语句等效的语句?例如:foo="hey"foo||="what"#assignfooifit'sundefined#fooisstill"hey"bar||="yeah"#baris"yeah"另外,类似这样的东西的通用术语是什么?条件分配是我的第一个猜测,但Wikipediapage跟我想的不太一样。

  4. java - 什么相当于 ruby​​ 的 rack 或 python 的 Java wsgi? - 2

    什么是ruby​​的rack或python的Java的wsgi?还有一个路由库。 最佳答案 来自Python标准PEP333:Bycontrast,althoughJavahasjustasmanywebapplicationframeworksavailable,Java's"servlet"APImakesitpossibleforapplicationswrittenwithanyJavawebapplicationframeworktoruninanywebserverthatsupportstheservletAPI.ht

  5. 叮咚买菜基于 Apache Doris 统一 OLAP 引擎的应用实践 - 2

    导读:随着叮咚买菜业务的发展,不同的业务场景对数据分析提出了不同的需求,他们希望引入一款实时OLAP数据库,构建一个灵活的多维实时查询和分析的平台,统一数据的接入和查询方案,解决各业务线对数据高效实时查询和精细化运营的需求。经过调研选型,最终引入ApacheDoris作为最终的OLAP分析引擎,Doris作为核心的OLAP引擎支持复杂地分析操作、提供多维的数据视图,在叮咚买菜数十个业务场景中广泛应用。作者|叮咚买菜资深数据工程师韩青叮咚买菜创立于2017年5月,是一家专注美好食物的创业公司。叮咚买菜专注吃的事业,为满足更多人“想吃什么”而努力,通过美好食材的供应、美好滋味的开发以及美食品牌的孵

  6. 华为OD机试用Python实现 -【明明的随机数】 2023Q1A - 2

    华为OD机试题本篇题目:明明的随机数题目输入描述输出描述:示例1输入输出说明代码编写思路最近更新的博客华为od2023|什么是华为od,od薪资待遇,od机试题清单华为OD机试真题大全,用Python解华为机试题|机试宝典【华为OD机试】全流程解析+经验分享,题型分享,防作弊指南华为o

  7. python - 如何读取 MIDI 文件、更改其乐器并将其写回? - 2

    我想解析一个已经存在的.mid文件,改变它的乐器,例如从“acousticgrandpiano”到“violin”,然后将它保存回去或作为另一个.mid文件。根据我在文档中看到的内容,该乐器通过program_change或patch_change指令进行了更改,但我找不到任何在已经存在的MIDI文件中执行此操作的库.他们似乎都只支持从头开始创建的MIDI文件。 最佳答案 MIDIpackage会为您完成此操作,但具体方法取决于midi文件的原始内容。一个MIDI文件由一个或多个音轨组成,每个音轨是十六个channel中任何一个上的

  8. 基于C#实现简易绘图工具【100010177】 - 2

    C#实现简易绘图工具一.引言实验目的:通过制作窗体应用程序(C#画图软件),熟悉基本的窗体设计过程以及控件设计,事件处理等,熟悉使用C#的winform窗体进行绘图的基本步骤,对于面向对象编程有更加深刻的体会.Tutorial任务设计一个具有基本功能的画图软件**·包括简单的新建文件,保存,重新绘图等功能**·实现一些基本图形的绘制,包括铅笔和基本形状等,学习橡皮工具的创建**·设计一个合理舒适的UI界面**注明:你可能需要先了解一些关于winform窗体应用程序绘图的基本知识,以及关于GDI+类和结构的知识二.实验环境Windows系统下的visualstudio2017C#窗体应用程序三.

  9. 「Python|Selenium|场景案例」如何定位iframe中的元素? - 2

    本文主要介绍在使用Selenium进行自动化测试或者任务时,对于使用了iframe的页面,如何定位iframe中的元素文章目录场景描述解决方案具体代码场景描述当我们在使用Selenium进行自动化测试的时候,可能会遇到一些界面或者窗体是使用HTML的iframe标签进行承载的。对于iframe中的标签,如果直接查找是无法找到的,会抛出没有找到元素的异常。比如近在咫尺的例子就是,CSDN的登录窗体就是使用的iframe,大家可以尝试通过F12开发者模式查看到的tag_name,class_name,id或者xpath来定位中的页面元素,会抛出NoSuchElementException异常。解决

  10. LC滤波器设计学习笔记(一)滤波电路入门 - 2

    目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》,侵权删。前言最近需要学习放大电路和滤波电路,但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放,所以也是相当从零开始学习了。滤波电路科普主要分类滤波器:主要是从不同频率的成分中提取出特定频率的信号。有源滤波器:由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波,最普通易于采用的无源滤波器结构是将电感与电容串联,可对主要次谐波(3、5、7)构成低阻抗旁路。无源滤波器:无源滤波器,又称

随机推荐