使用Ultralytics YOLO进行模型导出

简介

训练模型的最终目标是将其部署到实际应用中。Ultralytics YOLO11的导出模式提供了多种选项，可以将您训练好的模型导出为不同格式，使其可以在各种平台和设备上部署。本综合指南旨在引导您了解模型导出的细节，展示如何实现最大兼容性和性能。

观看：如何导出自定义训练的Ultralytics YOLO模型并在网络摄像头上运行实时推理。

为什么选择YOLO11的导出模式？

• 多功能性：可导出为多种格式，包括ONNX、TensorRT、CoreML等。
• 性能：使用TensorRT可获得高达5倍的GPU加速，使用ONNX或OpenVINO可获得3倍的CPU加速。
• 兼容性：使您的模型可以在众多硬件和软件环境中通用部署。
• 易用性：简单的CLI和Python API，可快速直观地导出模型。

导出模式的主要特点

以下是一些突出的功能：

• 一键导出：简单的命令即可导出为不同格式。
• 批量导出：导出支持批量推理的模型。
• 优化推理：导出的模型经过优化，可实现更快的推理时间。
• 教程视频：深入的指南和教程，确保顺畅的导出体验。

使用示例

将YOLO11n模型导出为不同格式，如ONNX或TensorRT。有关导出参数的完整列表，请参阅下面的参数部分。

from ultralytics import YOLO

# 加载模型
model = YOLO("yolo11n.pt")  # 加载官方模型
model = YOLO("path/to/best.pt")  # 加载自定义训练的模型

# 导出模型
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # 导出官方模型
yolo export model=path/to/best.pt format=onnx # 导出自定义训练的模型

参数

此表详细说明了将YOLO模型导出为不同格式的配置和选项。这些设置对于优化导出模型的性能、大小和在各种平台和环境中的兼容性至关重要。正确的配置可确保模型准备好以最佳效率部署到预期的应用中。

调整这些参数可以根据特定要求自定义导出过程，例如部署环境、硬件限制和性能目标。选择适当的格式和设置对于在模型大小、速度和准确性之间达到最佳平衡至关重要。

导出格式

下表列出了可用的YOLO11导出格式。您可以使用format参数导出为任何格式，例如format='onnx'或format='engine'。您可以直接在导出的模型上进行预测或验证，例如yolo predict model=yolo11n.onnx。导出完成后会显示您的模型的使用示例。

常见问题

如何将YOLO11模型导出为ONNX格式？

使用Ultralytics将YOLO11模型导出为ONNX格式非常简单。它提供了Python和CLI两种方法来导出模型。

from ultralytics import YOLO

# 加载模型
model = YOLO("yolo11n.pt")  # 加载官方模型
model = YOLO("path/to/best.pt")  # 加载自定义训练的模型

# 导出模型
model.export(format="onnx")

yolo export model=yolo11n.pt format=onnx      # 导出官方模型
yolo export model=path/to/best.pt format=onnx # 导出自定义训练的模型

有关该过程的更多详细信息，包括处理不同输入大小等高级选项，请参阅ONNX集成指南。

使用TensorRT进行模型导出有哪些好处？

使用TensorRT进行模型导出可以显著提高性能。导出为TensorRT的YOLO11模型可以实现高达5倍的GPU加速，非常适合实时推理应用。

• 多功能性：针对特定硬件设置优化模型。
• 速度：通过高级优化实现更快的推理。
• 兼容性：与NVIDIA硬件无缝集成。

要了解更多关于集成TensorRT的信息，请参阅TensorRT集成指南。

如何在导出YOLO11模型时启用INT8量化？

INT8量化是压缩模型并加速推理的绝佳方法，特别是在边缘设备上。以下是如何启用INT8量化：

from ultralytics import YOLO

model = YOLO("yolo11n.pt")  # 加载模型
model.export(format="engine", int8=True)

yolo export model=yolo11n.pt format=engine int8=True # 导出带有INT8量化的TensorRT模型

INT8量化可以应用于各种格式，如TensorRT、OpenVINO和CoreML。为获得最佳量化结果，请使用data参数提供具有代表性的数据集。

为什么在导出模型时动态输入大小很重要？

动态输入大小允许导出的模型处理不同的图像尺寸，为不同的使用场景提供灵活性并优化处理效率。在导出为ONNX或TensorRT等格式时，启用动态输入大小可确保模型能够无缝适应不同的输入形状。

要启用此功能，在导出时使用dynamic=True标志：

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="onnx", dynamic=True)

yolo export model=yolo11n.pt format=onnx dynamic=True

动态输入大小对于输入尺寸可能变化的应用特别有用，例如视频处理或处理来自不同来源的图像。

优化模型性能需要考虑哪些关键导出参数？

理解和配置导出参数对于优化模型性能至关重要：

• format: 导出模型的目标格式（例如，onnx、torchscript、tensorflow）。
• imgsz: 模型输入所需的图像大小（例如，640或(height, width)）。
• half: 启用FP16量化，减小模型大小并可能加速推理。
• optimize: 应用特定优化，适用于移动或受限环境。
• int8: 启用INT8量化，对边缘AI部署非常有益。

对于在特定硬件平台上的部署，请考虑使用专门的导出格式，如NVIDIA GPU的TensorRT、Apple设备的CoreML或Google Coral设备的Edge TPU。

📅 Created 1 year ago ✏️ Updated 0 days ago

Comments