yolov8推理流程简单概括：

初始化引擎——>图片预处理——>前向处理——>后处理。

其中：

1、初始化引擎包括：

IRuntime* runtime = nullptr;
ICudaEngine* engine = nullptr;
IExecutionContext* context = nullptr;

2、图片预处理resize图片尺寸到指定尺寸；

3、前向处理包括：

（1）分配GPU内存

（2）数据