从零开始用QT编写一个Android投屏、PC反控软件(五)

上一篇文章,我们通过投屏软件的流程图对软件做了一个整体的了解和分析,并且编写了adb相关操作的代码,这些代码完成了adb的启动、push Android设备端程序、reverse设置端口转发、shell app_process 执行Android设备端程序、PC端listen端口接收socket连接。
PC端和Android设备端将会建立3条socket链路,分别是video socket、audio socket、control socket,这篇文章我们主要学习video socket的建立及后续处理流程。
下图是视频处理流程
视频链路处理流程图

我们逐步分析下流程:

  1. socket建立后首先读取4字节的codec_id,通过codec_id的值判断视频编码类型,获取AVCodec,创建AVCodecContext
  2. 读取视频流的width、height,一共8个字节,每个值分别是4个字节。用读取到的值设置AVCodecContext的width、height属性,并且设置pix_fmt = AV_PIX_FMT_YUV420P。
  3. 从socket链路中读取AVPacket
  4. 将读取到的AVPacket数据交给sinks处理,这里设置了2中类型的sink:decoder sink用于解码AVPacket,转换成yuv格式后交给opengl绘图,显示设备屏幕;recoder sink将AVPacket数据放入了队列,如果录制线程启动会读取队列中的数据保存成文件。可以根据需要创建更多的sink,例如可以创建一个推流的sink用于直播,只需要继承PacketSink这个基类编写推流相关的逻辑。
  5. 循环读取AVPacket,回到第3步。

在视频解码流程中我们引入了sink这个概念,并且对它进行了抽象,通过此设计可以灵活的实现视频数据包的个性化处理。

下面是视频解码流程部分相关的代码

#ifndef PACKET_SINK_H
#define PACKET_SINK_H
extern "C"{
#include <libavcodec/avcodec.h>
#include <libavformat/avformat.h>
}
#include <mutex>
#include <condition_variable>
#include <thread>
#include <vector>
#include <QObject>
#include "frame_buffer.h"
#include <functional>
struct PacketMerger {
    uint8_t *config;
    size_t configSize;
};

class FrameSink:public QObject{
    Q_OBJECT
public:
    explicit FrameSink(QObject *parent = nullptr);
    virtual bool open(AVCodecContext *ctx) = 0;
    virtual void close() = 0;
    virtual bool push(AVFrame *frame) = 0;
};
class ScreenSink:public FrameSink
{
    Q_OBJECT
public:
    explicit ScreenSink(QObject *parent = nullptr);
    ~ScreenSink();
    virtual bool open(AVCodecContext *ctx);
    virtual void close();
    virtual bool push(AVFrame *frame);
    FrameBuffer *getFrameBuffer();
signals:
    void screenInitSize(int w,int h);
    void newFrame();
private:
    FrameBuffer *frameBuffer;
};
typedef ScreenSink PreviewSink;
class PacketSink
{
public:
    PacketSink();
    ~PacketSink();
    virtual bool open(AVCodecContext *ctx) = 0;
    virtual void close() = 0;
    virtual bool push(AVPacket *packet) = 0;
    //virtual void disable() = 0;
};
class DecoderSink: public PacketSink{
public:
    DecoderSink();
    ~DecoderSink();
    void addFrameSink(FrameSink *sink);
    virtual bool open(AVCodecContext *ctx);
    virtual void close();
    virtual bool push(AVPacket *packet);
    //virtual void disable();
private:
    AVCodecConte

相关推荐

  1. 开始实现一个RPC框架(

    2024-02-19 11:12:01       10 阅读
  2. AirServer软件

    2024-02-19 11:12:01       9 阅读
  3. Android学习():常

    2024-02-19 11:12:01       38 阅读
  4. 一个 Android 编译神器jadx】

    2024-02-19 11:12:01       8 阅读

最近更新

  1. TCP协议是安全的吗?

    2024-02-19 11:12:01       16 阅读
  2. 阿里云服务器执行yum,一直下载docker-ce-stable失败

    2024-02-19 11:12:01       16 阅读
  3. 【Python教程】压缩PDF文件大小

    2024-02-19 11:12:01       15 阅读
  4. 通过文章id递归查询所有评论(xml)

    2024-02-19 11:12:01       18 阅读

热门阅读

  1. sql语句创建数据库

    2024-02-19 11:12:01       30 阅读
  2. 【c++】斐波那契数列

    2024-02-19 11:12:01       24 阅读
  3. 「计算机网络」物理层

    2024-02-19 11:12:01       28 阅读
  4. 基于物联网的智慧农业简介

    2024-02-19 11:12:01       31 阅读
  5. 什么是RabbitMQ?

    2024-02-19 11:12:01       27 阅读
  6. GO语言的变量与常量

    2024-02-19 11:12:01       29 阅读
  7. 在k8s中,使用DirectPV CSI作为分布式存储的优缺点

    2024-02-19 11:12:01       25 阅读
  8. x86汇编段描述符解析器

    2024-02-19 11:12:01       28 阅读