如何在Qt中高效地显示OpenCV视频?

28
我正在使用OpenCV从ip摄像头捕获多个流。当我尝试从OpenCV窗口(cv::namedWindow(...))显示这些流时,没有任何问题(到目前为止,我已经尝试了4个流)。
问题出现在我尝试在Qt部件中显示这些流时。由于捕获是在另一个线程中完成的,因此我必须使用信号槽机制来更新位于主线程中的QWidget。
基本上,我从捕获线程发出新捕获的帧,并且GUI线程中的插槽接收它。当我打开4个流时,无法像以前那样平滑地显示视频。
下面是发射器:
void capture::start_process() {
    m_enable = true;
    cv::Mat frame;

    while(m_enable) {
        if (!m_video_handle->read(frame)) {
            break;
        }
        cv::cvtColor(frame, frame,CV_BGR2RGB);

        qDebug() << "FRAME : " << frame.data;

        emit image_ready(QImage(frame.data, frame.cols, frame.rows, frame.step, QImage::Format_RGB888));
        cv::waitKey(30);
    }
}
这是我的插槽:
void widget::set_image(QImage image) {
    img = image;
    qDebug() << "PARAMETER IMAGE: " << image.scanLine(0);
    qDebug() << "MEMBER IMAGE: " << img.scanLine(0);
}

问题似乎是不断复制QImages的开销。尽管QImage使用隐式共享,但当我通过qDebug()消息比较图像的数据指针时,我看到不同的地址。

1- 有没有直接将OpenCV窗口嵌入QWidget的方法?

2- 如何处理显示多个视频的最有效方法?例如,视频管理系统如何在同一时间显示多达32个摄像头?

3- 应该采取什么方法?


你尝试过忽略QImage,直接使用数据数组作为纹理在QGLWidget中渲染吗?我猜那样会更快。专业的解决方案可能会使用专门的硬件,但这也只是一个猜测。 - Micka
1个回答

41

使用 QImage::scanLine 会强制进行深度复制,因此至少应该使用 constScanLine,或者更好的方法是将槽的签名更改为:

void widget::set_image(const QImage & image);

当然,你面临的问题变成了另外一件事情:QImage实例指向在另一个线程中存在并且可能会随时更改的帧数据。
有一个解决方案:需要使用分配在堆上的新鲜帧,并且需要在QImage中捕获帧。使用QScopedPointer防止内存泄漏,直到QImage拥有该帧。
static void matDeleter(void* mat) { delete static_cast<cv::Mat*>(mat); }

class capture {
   Q_OBJECT
   bool m_enable;
   ...
public:
   Q_SIGNAL void image_ready(const QImage &);
   ...
};

void capture::start_process() {
  m_enable = true;
  while(m_enable) {
    QScopedPointer<cv::Mat> frame(new cv::Mat);
    if (!m_video_handle->read(*frame)) {
      break;
    }
    cv::cvtColor(*frame, *frame, CV_BGR2RGB);

    // Here the image instance takes ownership of the frame.
    const QImage image(frame->data, frame->cols, frame->rows, frame->step,
                       QImage::Format_RGB888, matDeleter, frame.take());       
    emit image_ready(image);
    cv::waitKey(30);
  }
}

当然,由于Qt在一个QThread中默认提供本地消息分发和Qt事件循环,因此使用QObject进行捕获处理非常简单。以下是一个完整的、经过测试的示例。
捕获、转换和查看器都在自己的线程中运行。由于cv::Mat是一个具有原子、线程安全访问的隐式共享类,因此被用作这样。
转换器可以选择不处理陈旧的帧——如果只为显示目的进行转换,则非常有用。
查看器在GUI线程中运行,并正确丢弃陈旧的帧。查看器永远不需要处理陈旧的帧。
如果您要收集数据以保存到磁盘上,应该以高优先级运行捕获线程。您还应该检查OpenCV api,看看是否有一种方法可以将本机相机数据转储到磁盘上。
为了加速转换,您可以使用OpenCV中的gpu加速类。
下面的示例确保仅在必要时才重新分配内存以进行复制:Capture类维护其自己的帧缓冲区,该缓冲区在每个后续帧中重复使用,Converter也是如此,ImageViewer也是如此。
除了在cv::VideoCatprure::read内部发生的任何事情之外,图像数据还进行了两次深度复制:
1.复制到转换器的QImage中。
2.复制到ImageViewer的QImage中。
这两个副本都需要确保线程之间的解耦,并防止由于需要分离引用计数大于1的cv::Mat或QImage而导致数据重新分配。在现代架构上,内存复制非常快。
由于所有图像缓冲区都保持在相同的内存位置,因此它们的性能是最优的——它们保持分页并缓存。
AddressTracker用于跟踪内存重新分配以进行调试。
// https://github.com/KubaO/stackoverflown/tree/master/questions/opencv-21246766
#include <QtWidgets>
#include <algorithm>
#include <opencv2/opencv.hpp>

Q_DECLARE_METATYPE(cv::Mat)

struct AddressTracker {
   const void *address = {};
   int reallocs = 0;
   void track(const cv::Mat &m) { track(m.data); }
   void track(const QImage &img) { track(img.bits()); }
   void track(const void *data) {
      if (data && data != address) {
         address = data;
         reallocs ++;
      }
   }
};

Capture 类会将捕获到的帧填充至内部帧缓冲区,同时通知帧变更。该类的用户属性为帧。

class Capture : public QObject {
   Q_OBJECT
   Q_PROPERTY(cv::Mat frame READ frame NOTIFY frameReady USER true)
   cv::Mat m_frame;
   QBasicTimer m_timer;
   QScopedPointer<cv::VideoCapture> m_videoCapture;
   AddressTracker m_track;
public:
   Capture(QObject *parent = {}) : QObject(parent) {}
   ~Capture() { qDebug() << __FUNCTION__ << "reallocations" << m_track.reallocs; }
   Q_SIGNAL void started();
   Q_SLOT void start(int cam = {}) {
      if (!m_videoCapture)
         m_videoCapture.reset(new cv::VideoCapture(cam));
      if (m_videoCapture->isOpened()) {
         m_timer.start(0, this);
         emit started();
      }
   }
   Q_SLOT void stop() { m_timer.stop(); }
   Q_SIGNAL void frameReady(const cv::Mat &);
   cv::Mat frame() const { return m_frame; }
private:
   void timerEvent(QTimerEvent * ev) {
      if (ev->timerId() != m_timer.timerId()) return;
      if (!m_videoCapture->read(m_frame)) { // Blocks until a new frame is ready
         m_timer.stop();
         return;
      }
      m_track.track(m_frame);
      emit frameReady(m_frame);
   }
};

Converter类将传入的帧转换为缩小的QImage用户属性。它会通知图像更新。为了防止内存重新分配,图像被保留下来。processAll属性选择是否转换所有帧,或者只转换最近的一个,如果有多个被排队。

class Converter : public QObject {
   Q_OBJECT
   Q_PROPERTY(QImage image READ image NOTIFY imageReady USER true)
   Q_PROPERTY(bool processAll READ processAll WRITE setProcessAll)
   QBasicTimer m_timer;
   cv::Mat m_frame;
   QImage m_image;
   bool m_processAll = true;
   AddressTracker m_track;
   void queue(const cv::Mat &frame) {
      if (!m_frame.empty()) qDebug() << "Converter dropped frame!";
      m_frame = frame;
      if (! m_timer.isActive()) m_timer.start(0, this);
   }
   void process(const cv::Mat &frame) {
      Q_ASSERT(frame.type() == CV_8UC3);
      int w = frame.cols / 3.0, h = frame.rows / 3.0;
      if (m_image.size() != QSize{w,h})
         m_image = QImage(w, h, QImage::Format_RGB888);
      cv::Mat mat(h, w, CV_8UC3, m_image.bits(), m_image.bytesPerLine());
      cv::resize(frame, mat, mat.size(), 0, 0, cv::INTER_AREA);
      cv::cvtColor(mat, mat, CV_BGR2RGB);
      emit imageReady(m_image);
   }
   void timerEvent(QTimerEvent *ev) {
      if (ev->timerId() != m_timer.timerId()) return;
      process(m_frame);
      m_frame.release();
      m_track.track(m_frame);
      m_timer.stop();
   }
public:
   explicit Converter(QObject * parent = nullptr) : QObject(parent) {}
   ~Converter() { qDebug() << __FUNCTION__ << "reallocations" << m_track.reallocs; }
   bool processAll() const { return m_processAll; }
   void setProcessAll(bool all) { m_processAll = all; }
   Q_SIGNAL void imageReady(const QImage &);
   QImage image() const { return m_image; }
   Q_SLOT void processFrame(const cv::Mat &frame) {
      if (m_processAll) process(frame); else queue(frame);
   }
};

ImageViewer控件相当于存储pixmap的QLabel。图像是查看器的用户属性。传入的图像将被深度复制到用户属性中,以防止内存重新分配。

class ImageViewer : public QWidget {
   Q_OBJECT
   Q_PROPERTY(QImage image READ image WRITE setImage USER true)
   bool painted = true;
   QImage m_img;
   AddressTracker m_track;
   void paintEvent(QPaintEvent *) {
      QPainter p(this);
      if (!m_img.isNull()) {
         setAttribute(Qt::WA_OpaquePaintEvent);
         p.drawImage(0, 0, m_img);
         painted = true;
      }
   }
public:
   ImageViewer(QWidget * parent = nullptr) : QWidget(parent) {}
   ~ImageViewer() { qDebug() << __FUNCTION__ << "reallocations" << m_track.reallocs; }
   Q_SLOT void setImage(const QImage &img) {
      if (!painted) qDebug() << "Viewer dropped frame!";
      if (m_img.size() == img.size() && m_img.format() == img.format()
          && m_img.bytesPerLine() == img.bytesPerLine())
         std::copy_n(img.bits(), img.sizeInBytes(), m_img.bits());
      else
         m_img = img.copy();
      painted = false;
      if (m_img.size() != size()) setFixedSize(m_img.size());
      m_track.track(m_img);
      update();
   }
   QImage image() const { return m_img; }
};

演示实例化了上面描述的类,并在专用线程中运行捕获和转换操作。
class Thread final : public QThread { public: ~Thread() { quit(); wait(); } };

int main(int argc, char *argv[])
{
   qRegisterMetaType<cv::Mat>();
   QApplication app(argc, argv);
   ImageViewer view;
   Capture capture;
   Converter converter;
   Thread captureThread, converterThread;
   // Everything runs at the same priority as the gui, so it won't supply useless frames.
   converter.setProcessAll(false);
   captureThread.start();
   converterThread.start();
   capture.moveToThread(&captureThread);
   converter.moveToThread(&converterThread);
   QObject::connect(&capture, &Capture::frameReady, &converter, &Converter::processFrame);
   QObject::connect(&converter, &Converter::imageReady, &view, &ImageViewer::setImage);
   view.show();
   QObject::connect(&capture, &Capture::started, [](){ qDebug() << "Capture started."; });
   QMetaObject::invokeMethod(&capture, "start");
   return app.exec();
}

#include "main.moc"

这是完整示例的结束。请注意:之前版本的答案不必要地重新分配了图像缓冲区。

1
@blackibiza “main”方法可以轻松地修改为启动多个捕获器、转换器和图像查看器-“Capture::start”方法以摄像头编号作为参数。对象线程方法在性能方面有些限制。线程比较沉重。这种解决方案可能最好使用“QtConcurrent::run”,因为它接近GCD的最终性能。这段代码确实应该重构为类似GCD的方式,也许某天我会做到。 - Kuba hasn't forgotten Monica
拯救了我,但现在我正在与OpenCV打开相机源时不稳定而苦苦挣扎,所以实际上我正在寻找一种将Qt中的视频输入到OpenCV的方法呵呵。 - Mr. Developerdude
@LennartRolland "在处理OpenCV时遇到了不稳定的情况" 你所说的"不稳定"是指什么?如果它崩溃了,那就使用调试器找出原因,修复它,并提交一个OpenCV补丁。如果它没有崩溃,那还有什么其他的不稳定情况呢? - Kuba hasn't forgotten Monica
@KubaOber:在理想的情况下,我会这样做,但是我有自己的计划和有限的时间。它并没有崩溃,只是无法可靠地打开视频源。我读到这是一个已知的问题,最好的解决方法是自己提供视频(这就是我现在使用Qt所做的)。 - Mr. Developerdude
@KubaOber 在 ImageViewer 的成员函数 setImage 中,你复制了图像,这会消耗时间和内存。这不是你想要避免的吗? - goulashsoup
显示剩余6条评论

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接