yolov8检测框重叠softnms

### YOLOv8 中使用 Soft-NMS 处理检测框重叠问题 在目标检测任务中，处理检测框之间的重叠是一个重要环节。传统的非极大值抑制（NMS）会简单地移除与高分预测框具有较大交并比（IOU）的其他候选框。然而，在某些复杂场景下，这种策略可能会导致误删真实的目标框。为此，Soft-NMS 提供了一种更平滑的方式，通过降低低分框的置信度而非直接删除它们来解决这一问题。 #### 背景介绍 Soft-NMS 的核心思想在于不直接丢弃 IOU 高于某个阈值的候选框，而是根据这些框与当前最高分数框的 IOU 值动态调整其置信度得分。具体而言，如果某候选框 \( b_i \) 与当前最佳框 M 的 IOU 较大，则该框的得分 \( s_i \) 将被显著削弱；反之则影响较小[^1]。 #### 在 YOLOv8 中实现 Soft-NMS YOLOv8 支持多种改进版 NMS 方法，其中包括但不限于 DIoU-NMS、CIoU-NMS 和 Soft-NMS 等。以下是基于官方文档和社区实践总结的具体操作指南： ##### 修改代码片段 要在 YOLOv8 中启用 Soft-NMS，可以按照如下方式修改模型推理阶段的相关部分。假设我们正在调用 `ultralytics` 官方库中的功能模块，可以通过替换默认的 NMS 函数为自定义版本完成此目的。 ```python from ultralytics import YOLO import torch def soft_nms(boxes, scores, iou_threshold=0.5, sigma=0.5, thresh=0.001): """ 自定义 Soft-NMS 实现函数。 参数: boxes (Tensor): 形状为 [num_boxes, 4] 的边界框张量。 scores (Tensor): 形状为 [num_boxes] 的置信度得分向量。 iou_threshold (float): IOU 阈值，默认为 0.5。 sigma (float): Gaussian 权重衰减系数，默认为 0.5。 thresh (float): 得分过滤阈值，默认为 0.001。 返回: Tensor: 经过软化后的保留索引列表。 """ x1 = boxes[:, 0] y1 = boxes[:, 1] x2 = boxes[:, 2] y2 = boxes[:, 3] areas = (x2 - x1 + 1) * (y2 - y1 + 1) order = scores.argsort(descending=True) keep = [] while order.numel() > 0: idx = order[0].item() dets = boxes[idx].unsqueeze(dim=0) xx1 = torch.max(x1[order], dets[:, 0]) yy1 = torch.max(y1[order], dets[:, 1]) xx2 = torch.min(x2[order], dets[:, 2]) yy2 = torch.min(y2[order], dets[:, 3]) w = torch.clamp(xx2 - xx1 + 1, min=0.) h = torch.clamp(yy2 - yy1 + 1, min=0.) inter = w * h ovr = inter / ((areas[order] + areas[idx]) - inter) weight = torch.exp(-(ovr * ovr) / sigma) scores[order] *= weight filtered_idx = (scores >= thresh).nonzero().squeeze() if isinstance(filtered_idx, int) or len(filtered_idx.shape) == 0: break order = order[filtered_idx] keep.append(idx) return torch.tensor(keep, dtype=torch.int64) # 加载预训练模型 model = YOLO('yolov8n.pt') # 替换原有的 NMS 方法 i = soft_nms(model.predictor.boxes, model.predictor.scores, iou_thres=0.5)[^3] # 执行推断 results = model('example.jpg') ``` 上述代码展示了如何将标准的硬裁剪逻辑替换成更加柔性的 Soft-NMS 版本。其中的关键点包括： - **Gaussian Weighting**: 使用指数形式计算权重衰减值，从而避免突然截断带来的负面影响； - **Threshold Filtering**: 设置合理的最低得分界限以剔除非必要项； - **Iterative Processing**: 对剩余候选项重复执行相似流程直至满足终止条件为止。 #### 性能评估与应用场景分析 相比传统方法，采用 Soft-NMS 后能够有效改善密集物体分布情况下的识别效果，尤其是在存在严重遮挡或者相互靠近的情况下表现尤为突出[^2]。不过需要注意的是，由于增加了额外运算开销，实际部署过程中可能需要权衡速度与准确性之间关系。 ---