model.nms.nms_gpu()函数在Python中的应用案例

model.nms.nms_gpu()函数是用于在GPU上执行非极大值抑制（Non-Maximum Suppression，NMS）算法的函数，在图像处理和计算机视觉领域有广泛的应用。NMS算法用于在目标检测任务中去除冗余的框，从而得到最终的检测结果。

下面是一个使用model.nms.nms_gpu()函数的示例：

import torch
from torchvision.ops import nms

# 定义输入数据
boxes = torch.tensor([
    [50, 50, 100, 100, 0.9],  # [x1, y1, x2, y2, score]
    [60, 60, 120, 120, 0.8],
    [70, 70, 140, 140, 0.7],
    [80, 80, 160, 160, 0.6],
    [90, 90, 180, 180, 0.5]
]).cuda()

scores = torch.tensor([0.9, 0.8, 0.7, 0.6, 0.5]).cuda()

# 执行非极大值抑制，保留得分高的框
keep = model.nms.nms_gpu(boxes, scores, iou_threshold=0.5)

# 打印保留的框
print(keep)

在这个例子中，我们首先导入了torch和torchvision库中的相关模块。然后，定义了一个输入的boxes张量，它的每一行表示一个矩形框，包含了矩形框的四个坐标和置信度分数。同时，定义了一个scores张量，包含了每一个矩形框的置信度得分。

接下来，我们调用model.nms.nms_gpu()函数执行非极大值抑制。函数的输入参数包括boxes、scores和iou_threshold，其中iou_threshold是一个[0, 1]之间的阈值，用于判断两个矩形框是否重叠。函数的返回结果是一个张量keep，用于指示哪些框被保留。

最后，我们打印出保留的框的索引，即keep张量的值。这些索引对应于输入的矩形框，表示保留的矩形框在原始输入中的位置。

通过使用model.nms.nms_gpu()函数，我们可以方便地在GPU上执行非极大值抑制算法，从而实现目标检测中的冗余框的去除操作，得到最终的检测结果。