前言
需求:
1、如何使用OpenCV捕抓Windows电脑上USB摄像头的流、
2、采用多线程
3、获知当前摄像头的帧率。
这个需求,之前就有做了,但是由于出现了一个问题,人家摄像头的帧率目前都可以达到60帧/s 了,而我的程序获取的却还只能获取20帧/s ,那么肯定就是存在问题了。所以,目前采用了一些办法进行解决,能充分发挥其60帧/s 的优势,并能打出帧率。下面开始详细阐述。
正文
一、环境
1、Win10
2、Qt 5.8.0 MSVC2015
3、OpenCV VS2015编译的
二、效果展示
三、关键代码
1、抓图线程:
bool CCameraCaptureThd::Init()
{int index = 5;while (true){m_bInit = m_capture.open(0+cv::CAP_DSHOW, cv::CAP_ANY); // 打开默认摄像头m_capture.set(cv::CAP_PROP_FRAME_WIDTH, 1280);m_capture.set(cv::CAP_PROP_FRAME_HEIGHT, 720);m_capture.set(cv::CAP_PROP_FOURCC, cv::VideoWriter::fourcc('M', 'J', 'P', 'G'));if (m_bInit){return true;}else{index--;QThread::sleep(1);if (index < 0){qDebug() << "--> Failed to initialize camera!";return false;}}}return true;
}void CCameraCaptureThd::StartCapture()
{m_bCapture = true;double dExpore = m_capture.get(cv::CAP_PROP_EXPOSURE);double dBrightness = m_capture.get(cv::CAP_PROP_BRIGHTNESS);qDebug() << "---> dExpore:"<<dExpore<<"||"<<dBrightness;
}void CCameraCaptureThd::StopCapture()
{m_bCapture = false;
}bool CCameraCaptureThd::SetCameraBrightness(const int &_iBrightness)
{bool bRet = false;if (false == m_capture.isOpened()){return bRet;}qDebug() << "---> CCameraCaptureThd::SetCameraBrightness _iBrightness:"<<_iBrightness;bRet = m_capture.set(cv::CAP_PROP_BRIGHTNESS, _iBrightness);double dBrightness = m_capture.get(cv::CAP_PROP_BRIGHTNESS);qDebug() << "---> CCameraCaptureThd dBrightness:"<<dBrightness;return bRet;
}bool CCameraCaptureThd::SetCameraExposure(const int &_iExposure)
{bool bRet = false;if (false == m_capture.isOpened()){return bRet;}qDebug() << "---> CCameraCaptureThd::SetCameraExposure _iExposure:"<<_iExposure;bRet = m_capture.set(cv::CAP_PROP_EXPOSURE, _iExposure);double dExpore = m_capture.get(cv::CAP_PROP_EXPOSURE);qDebug() << "---> CCameraCaptureThd dExpore:"<<dExpore;return bRet;
}void CCameraCaptureThd::run()
{std::thread captureThread(&CCameraCaptureThd::captureThreadFunc, this);captureThread.detach(); // 捕获线程独立运行while (!m_bExit){cv::Mat frame;{std::unique_lock<std::mutex> lock(m_mtxQueue);if (m_frameQueue.empty()){m_cvQueue.wait(lock, [this] { return !m_frameQueue.empty() || m_bExit; });}if (m_bExit) break;frame = m_frameQueue.front();m_frameQueue.pop();}if (!frame.empty()){processFrame(frame);calculateFps(); // 每处理一帧计算一次 FPS}}
}void CCameraCaptureThd::captureThreadFunc()
{while (!m_bExit){cv::Mat frame;if (m_capture.isOpened() && m_bCapture){m_capture.read(frame);if (frame.empty() || !_CheckMat(frame)){if (!m_bWrongCamera){emit SIGNAL_CameraWrong();m_bWrongCamera = true;}continue;}std::lock_guard<std::mutex> lock(m_mtxQueue);if (m_frameQueue.size() >= m_maxQueueSize){m_frameQueue.pop(); // 丢弃旧帧}m_frameQueue.push(frame);m_cvQueue.notify_one();}QThread::msleep(m_iImageCaptureSleepTime);}
}void CCameraCaptureThd::processFrame(const cv::Mat& frame)
{cv::Mat processedFrame;frame.copyTo(processedFrame);cv::cvtColor(processedFrame, processedFrame, cv::COLOR_BGR2RGB);cv::flip(processedFrame, processedFrame, 1); // Y 轴翻转QImage img = QImage((uint8_t*)processedFrame.data, processedFrame.cols, processedFrame.rows, QImage::Format_RGB888).copy();//qDebug() << "---> processFrame:"<<QDateTime::currentMSecsSinceEpoch();emit SIGNAL_UpdateRgbImage(img);
}void CCameraCaptureThd::calculateFps()
{++m_frameCount;auto now = std::chrono::steady_clock::now();double elapsedTime = std::chrono::duration_cast<std::chrono::milliseconds>(now - m_startTime).count();if (elapsedTime >= 1000.0) // 每秒更新一次 FPS{m_currentFps = m_frameCount * (1000.0 / elapsedTime);m_frameCount = 0;m_startTime = now;qDebug() << "Current FPS:" << m_currentFps;emit SIGNAL_FrameRate(m_currentFps);}
}bool CCameraCaptureThd::_CheckMat(const cv::Mat& mat)
{return !mat.empty() && mat.cols > 0 && mat.rows > 0;
}
最关键的就是run里面的函数了。
四、遇到的问题
1、帧率怎么都上不去
解决方案:更改了相机打开时的设置
更改成这样:
m_bInit = m_capture.open(0+cv::CAP_DSHOW, cv::CAP_ANY); // 打开默认摄像头
m_capture.set(cv::CAP_PROP_FRAME_WIDTH, 1280);
m_capture.set(cv::CAP_PROP_FRAME_HEIGHT, 720);
m_capture.set(cv::CAP_PROP_FOURCC, cv::VideoWriter::fourcc('M', 'J', 'P', 'G'));
如果是这样的,帧率就会上不去:
m_capture.set(cv::CAP_PROP_FOURCC, cv::VideoWriter::fourcc('M', 'J', 'P', 'G'));
m_bInit = m_capture.open(0+cv::CAP_DSHOW, cv::CAP_ANY); // 打开默认摄像头
m_capture.set(cv::CAP_PROP_FRAME_WIDTH, 1280);
m_capture.set(cv::CAP_PROP_FRAME_HEIGHT, 720);
通过查询,问题的原因应该在:
属性设置的顺序如何影响帧率
- 属性的优先级问题:
- 摄像头通常优先处理某些属性。例如:
- 分辨率 (
FRAME_WIDTH
,FRAME_HEIGHT
) 是基础属性,影响图像传感器的输出格式。- 编码格式 (
FOURCC
) 决定图像流的压缩方式。- 如果先设置分辨率,然后设置编码格式,编码器会根据新分辨率重新调整帧率。
- 反之,如果先设置编码格式,随后更改分辨率,驱动可能无法实时适配,导致性能下降。
- 驱动和硬件内部调整机制:
- 摄像头驱动程序在每次设置参数时,可能会重新协商帧率。例如:
- 设置分辨率后,驱动需要查询硬件支持的最大帧率。
- 如果在分辨率设置之前先设置编码格式,驱动可能会选择一个默认分辨率(通常较低),随后改变分辨率会导致帧率调整。
- 参数依赖性问题:
- 某些参数依赖于其他参数。例如:
- 不同的编码格式支持的最大帧率和分辨率是不同的。
- MJPG(Motion JPEG)通常支持高分辨率和高帧率,但 YUV 格式可能性能较低。
- 初始化次序影响驱动的行为:
- 驱动可能在第一次设置后锁定某些参数。如果设置顺序错误,后续参数可能不会生效,或需要额外的时间重新初始化。
- 例如,先设置编码格式再设置分辨率,可能触发两次完整的驱动初始化。
正确的设置顺序建议
为了确保帧率最大化,可以按照以下顺序设置参数:
- 设置分辨率:
- 首先设置分辨率 (
FRAME_WIDTH
和FRAME_HEIGHT
),确保摄像头硬件和驱动调整到正确的传感器输出。- 设置帧率(如果需要):
- 如果特定帧率是关键要求,可以尝试显式设置帧率(
cv::CAP_PROP_FPS
)。- 设置编码格式:
- 最后设置编码格式 (
FOURCC
),以确保基于之前设置的分辨率和帧率进行编码。
还有另一个原因,就是我抓图与处理的线程处于同一个,这样也会拉低整个线程处理的效率。
2、调整USB摄像头的亮度与曝光,出现意外情况
若不按照先调曝光再调增益的顺序,有可能出现调整曝光错乱的情况,原因未知。
目前按照的逻辑是,若想亮起来,则为:曝光:0 + 亮度:64
若想暗下来,则为:曝光:-13 + 亮度:-64
五、资源
https://github.com/calorsol/QtDemo/tree/master/OpenCVCaptureTest