1.背景
最近在做一个AI项目，需要用到yolov8的实例分割功能来确定一个不规则区域，从而找出不规则区域的坐标完成大致定位，以前有用过yolov8的目标检测功能，实际上yolov8的分割功能和检测功能大同小异。本博客将仔细分享使用yolov8图像分割的详细流程。
2.流程介绍
流程包括如下：环境配置、数据集制作、训练、测试
3.环境配置
certifi 2023.7.22
charset-normalizer 3.3.0
contourpy 1.1.1
cycler 0.12.1
fonttools 4.43.1
idna 3.4
importlib-resources 6.1.0
kiwisolver 1.4.5
matplotlib 3.7.3
numpy 1.24.4
opencv-python 4.8.1.78
packaging 23.2
pandas 2.0.3
Pillow 10.1.0
pip 20.0.2
pkg-resources 0.0.0
psutil 5.9.6
py-cpuinfo 9.0.0
pyparsing 3.1.1
python-dateutil 2.8.2
pytz 2023.3.post1
PyYAML 6.0.1
requests 2.31.0
scipy 1.10.1
seaborn 0.13.0
setuptools 44.0.0
six 1.16.0
torch 1.8.0+cu111
torchaudio 0.8.0
torchvision 0.9.0+cu111
tqdm 4.66.1
typing-extensions 4.8.0
tzdata 2023.3
ultralytics 8.0.150
urllib3 2.0.7
zipp 3.17.0 4.数据集制作
建立一个datasets文件夹，在文件夹下面分别建立images好labels文件夹，在images文件夹下可以分别建立train、val、test文件夹，然后在labels里面也建立train、val、test文件夹，将相应的图片和txt标签档房间去即可。然后写一个后缀为.yaml的配置文件即可。yaml文件参考结构如下：
# YOLOv5 🚀 by Ultralytics, AGPL-3.0 license
# COCO128 dataset https://www.kaggle.com/ultralytics/coco128 (first 128 images from
# COCO train2017) by Ultralytics
# Example usage: python train.py --data coco128.yaml
# parent
# ├── yolov5
# └── datasets
# └── coco128 ← downloads here (7 MB)# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: C:\Users\admin\Desktop\yolov8\datasets # dataset root dir
train: images/train2017 # train images (relative to 'path') 128 images
val: images/train2017 # val images (relative to 'path') 128 images
test: # test images (optional)# Classes
names:0: outside# Download script/URL (optional)
download: https://ultralytics.com/assets/coco128.zip实际使用的时候，主要是修改数据集的path路径即可。
5.训练
自己是在linux服务器上跑的，因为以前跑过目标检测，所以在将数据集和配置文件写好上传之后，直接修改了任务命令参数运行以下命令试跑的：
yolo train task = segmentation model = yolov8n-seg.pt data =outside.yaml epochs = 20 batch=2
结果报错：
根据错误提示可以知道，应该是自己的参数设置错误了，提示中给出了yolov8支持的任务参数。同时也给出了如下的相关信息提示：
1. Train a detection model for 10 epochs with an initial learning_rate of 0.01yolo train data=coco128.yaml model=yolov8n.pt epochs=10 lr0=0.012. Predict a YouTube video using a pretrained segmentation model at image size 320:yolo predict model=yolov8n-seg.pt source='https://youtu.be/Zgi9g1ksQHc' imgsz=3203. Val a pretrained detection model at batch-size 1 and image size 640:yolo val model=yolov8n.pt data=coco128.yaml batch=1 imgsz=6404. Export a YOLOv8n classification model to ONNX format at image size 224 by 128 (no TASK required)yolo export model=yolov8n-cls.pt format=onnx imgsz=224,1285. Run special commands:yolo helpyolo checksyolo versionyolo settingsyolo copy-cfgyolo cfgDocs: https://docs.ultralytics.comCommunity: https://community.ultralytics.comGitHub: https://github.com/ultralytics/ultralytics
最终自己通过提示进行了命令修改，顺利完成了训练。最终命令如下：
yolo train task=segment model=yolov8n-seg.pt data=outside.yaml epochs = 20 batch=2
训练成功提示的参数如下：
训练完成后会在run文件下生成对应的模型权重及相关图片。
6.测试
yolo segment predict model=PME_best_n.pt source=test.jpg
也可以使用代码测试:
from ultralytics import YOLO# Load a model
model = YOLO("best.pt") # load a custom model# Predict with the model
results = model("test.jpg") # predict on an imageprint(results)
