Qt/C++音視頻開發70-無感切換通道/無縫切換播放視頻/多通道流暢切換/不同視頻打開無縫切換

一、前言

之前就寫過這個方案，當時做的是ffmpeg內核版本，由於ffmpeg內核解析都是代碼實現，所以無縫切換非常完美，看不到絲毫的中間切換過程，看起來就像是在一個通道畫面中。其實這種切換隻能說是取巧辦法，最佳的辦法應該是公用一個openglwidget窗體，解碼線程那邊開兩個，第二個解碼線程打開後，解碼到了數據開始，再將第一個解碼線程停掉，或者先停掉第一個解碼線程的信號槽關聯即可。這樣就真正的底層實現的無感切換。但是這種方式不適用於其他視頻內核，比如vlc內核這種，如果使用的句柄模式，就不好弄了。

在輪詢視頻的時候，通常都是需要將之前的視頻全部關閉，然後打開下一組視頻，在這個切換的過程中，如果是按照常規的做法，比如先關閉再打開新的視頻，肯定會出現空白黑屏之類的過度空白區間，如何避免這個問題實現無感知的無縫切換，是個需要稍微懂點腦筋的問題，有一個比較好的做法就是，準備雙倍的通道或者後臺解碼線程，在收到需要切換指令的時候，先後臺打開解碼線程，直到打開完成能夠正常出圖像，此時再去關閉之前的解碼線程，這樣就相當於無縫對接上了，不會說是中間等待打開解碼到能正常出圖像的過程空白。但是這樣又存在一個問題，那就是輪詢間隔時間不是非常準確，會有個1-2s的偏差，基本上這個偏差也能接受就是，所以如果是60s的輪詢間隔，你可以在58s的時候就開始打開另外一組的解碼線程，2s後全部正常出圖像後就關聯到視頻控件上顯示，把之前的解碼線程關閉並銷燬。這樣處理下來，既保證了切換過程無感知，又保證了不會過度開銷佔用CPU，也就切換的期間剛好有雙倍的解碼線程，只要內存足夠，這點性能犧牲還是值得的。

二、效果圖

四、功能特點

4.1. 基礎功能

支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
支持本地攝像頭設備和本地桌面採集，支持多設備和多屏幕。
支持各種視頻流格式，比如rtp、rtsp、rtmp、http、udp等。
本地音視頻文件和網絡音視頻文件，自動識別文件長度、播放進度、音量大小、靜音狀態等。
文件可以指定播放位置、調節音量大小、設置靜音狀態等。
支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當於慢放和快放。
支持開始播放、停止播放、暫停播放、繼續播放。
支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動顯示預覽。
支持錄像存儲，手動開始錄像、停止錄像，部分內核支持暫停錄像後繼續錄像，跳過不需要錄像的部分。
支持無感知切換循環播放、自動重連等機制。
提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態變化等信號。
多線程處理，一個解碼一個線程，不卡主界面。

4.2. 特色功能

同時支持多種解碼內核，包括qmedia內核（Qt4/Qt5/Qt6）、ffmpeg內核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5/ffmpeg6）、vlc內核（vlc2/vlc3）、mpv內核（mpv1/mp2）、mdk內核、海康sdk、easyplayer內核等。
非常完善的多重基類設計，新增一種解碼內核只需要實現極少的代碼量，就可以應用整套機制，極易拓展。
同時支持多種畫面顯示策略，自動調整（原始分辨率小於顯示控件尺寸則按照原始分辨率大小顯示，否則等比縮放）、等比縮放（永遠等比縮放）、拉伸填充（永遠拉伸填充）。所有內核和所有視頻顯示模式下都支持三種畫面顯示策略。
同時支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對方繪製控制）、繪製模式（回調拿到數據後轉成QImage用QPainter繪製）、GPU模式（回調拿到數據後轉成yuv用QOpenglWidget繪製）。
支持多種硬件加速類型，ffmpeg可選dxva2、d3d11va等，vlc可選any、dxva2、d3d11va，mpv可選auto、dxva2、d3d11va，mdk可選dxva2、d3d11va、cuda、mft等。不同的系統環境有不同的類型選擇，比如linux系統有vaapi、vdpau，macos系統有videotoolbox。
解碼線程和顯示窗體分離，可指定任意解碼內核掛載到任意顯示窗體，動態切換。
支持共享解碼線程，默認開啓並且自動處理，當識別到相同的視頻地址，共享一個解碼線程，在網絡視頻環境中可以大大節約網絡流量以及對方設備的推流壓力。國內頂尖視頻廠商均採用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
自動識別視頻旋轉角度並繪製，比如手機上拍攝的視頻一般是旋轉了90度的，播放的時候要自動旋轉處理，不然默認是倒着的。
自動識別視頻流播放過程中分辨率的變化，在視頻控件上自動調整尺寸。比如攝像機可以在使用過程中動態配置分辨率，當分辨率改動後對應視頻控件也要做出同步反應。
音視頻文件無感知自動切換循環播放，不會出現切換期間黑屏等肉眼可見的切換痕跡。
視頻控件同時支持任意解碼內核、任意畫面顯示策略、任意視頻顯示模式。
視頻控件懸浮條同時支持句柄、繪製、GPU三種模式，非絕對座標移來移去。
本地攝像頭設備支持指定設備名稱、分辨率、幀率進行播放。
本地桌面採集支持設定採集區域、偏移值、指定桌面索引、幀率、多個桌面同時採集等。還支持指定窗口標題採集固定窗口。
錄像文件同時支持打開的視頻文件、本地攝像頭、本地桌面、網絡視頻流等。
瞬間響應打開和關閉，無論是打開不存在的視頻或者網絡流，探測設備是否存在，讀取中的超時等待，收到關閉指令立即中斷之前的操作並響應。
支持打開各種圖片文件，支持本地音視頻文件拖曳播放。
視頻流通信方式可選tcp/udp，有些設備可能只提供了某一種協議通信比如tcp，需要指定該種協議方式打開。
可設置連接超時時間（視頻流探測用的超時時間）、讀取超時時間（採集過程中的超時時間）。
支持逐幀播放，提供上一幀/下一幀函數接口，可以逐幀查閱採集到的圖像。
音頻文件自動提取專輯信息比如標題、藝術家、專輯、專輯封面，自動顯示專輯封面。
視頻響應極低延遲0.2s左右，極速響應打開視頻流0.5s左右，專門做了優化處理。
支持H264/H265編碼（現在越來越多的監控攝像頭是H265視頻流格式）生成視頻文件，內部自動識別切換編碼格式。
支持用戶信息中包含特殊字符（比如用戶信息中包含+#@等字符）的視頻流播放，內置解析轉義處理。
支持濾鏡，各種水印及圖形效果，支持多個水印和圖像，可以將OSD標籤信息和各種圖形信息寫入到MP4文件。
支持視頻流中的各種音頻格式，AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持，推薦選擇AAC兼容性跨平臺性最好。
內核ffmpeg採用純qt+ffmpeg解碼，非sdl等第三方繪製播放依賴，gpu繪製採用qopenglwidget，音頻播放採用qaudiooutput。
內核ffmpeg和內核mdk支持安卓，其中mdk支持安卓硬解碼，性能非常兇殘。
可以切換音視頻軌道，也就是節目通道，可能ts文件帶了多個音視頻節目流，可以分別設置要播放哪一個，可以播放前設置好和播放過程中動態設置。
可以設置視頻旋轉角度，可以播放前設置好和播放過程中動態改變。
視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關閉視頻等功能。
音頻組件支持聲音波形值數據解析，可以根據該值繪製波形曲線和柱狀聲音條，默認提供了聲音振幅信號。
標籤和圖形信息支持三種繪製方式，繪製到遮罩層、繪製到圖片、源頭繪製（對應信息可以存儲到文件）。
通過傳入一個url地址，該地址可以帶上通信協議、分辨率、幀率等信息，無需其他設置。
保存視頻到文件支持三種策略，自動處理、僅限文件、全部轉碼，轉碼策略支持自動識別、轉264、轉265，編碼保存支持指定分辨率縮放或者等比例縮放。比如對保存文件體積有要求可以指定縮放後再存儲。
支持加密保存文件和解密播放文件，可以指定祕鑰文本。
提供的監控佈局類支持64通道同時顯示，還支持各種異型佈局，比如13通道，手機上6行2列布局。各種佈局可以自由定義。
支持電子放大，在懸浮條切換到電子放大模式，在畫面上選擇需要放大的區域，選取完畢後自動放大，再次切換放大模式可以復位。
各組件中極其詳細的打印信息提示，尤其是報錯信息提示，封裝的統一打印格式。針對現場複雜的設備環境測試極其方便有用，相當於精確定位到具體哪個通道哪個步驟出錯。
同時提供了簡單示例、視頻播放器、多畫面視頻監控、監控回放、逐幀播放、多屏渲染等單獨窗體示例，專門演示對應功能如何使用。
監控回放可選不同廠家類型、回放時間段、用戶信息、指定通道。支持切換回放進度。
可以從聲卡設備下拉框選擇聲卡播放聲音，提供對應的切換聲卡函數接口。
支持編譯到手機app使用，提供了專門的手機app佈局界面，可以作爲手機上的視頻監控使用。
代碼框架和結構優化到最優，性能強悍，註釋詳細，持續迭代更新升級。
源碼支持windows、linux、mac、android等，支持各種國產linux系統，包括但不限於統信UOS/中標麒麟/銀河麒麟等。還支持嵌入式linux。
源碼支持Qt4、Qt5、Qt6，兼容所有版本。

4.3. 視頻控件

可動態添加任意多個osd標籤信息，標籤信息包括名字、是否可見、字號大小、文本文字、文本顏色、背景顏色、標籤圖片、標籤座標、標籤格式（文本、日期、時間、日期時間、圖片）、標籤位置（左上角、左下角、右上角、右下角、居中、自定義座標）。
可動態添加任意多個圖形信息，這個非常有用，比如人工智能算法解析後的圖形區域信息直接發給視頻控件即可。圖形信息支持任意形狀，直接繪製在原始圖片上，採用絕對座標。
圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區域、路徑集合、點座標集合等。
每個圖形信息都可指定三種區域中的一種或者多種，指定了的都會繪製。
內置懸浮條控件，懸浮條位置支持頂部、底部、左側、右側。
懸浮條控件參數包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標代碼集合、按鈕名稱標識集合、按鈕提示信息集合。
懸浮條控件一排工具按鈕可自定義，通過結構體參數設置，圖標可選圖形字體還是自定義圖片。
懸浮條按鈕內部實現了錄像切換、抓拍截圖、靜音切換、關閉視頻等功能，也可以自行在源碼中增加自己對應的功能。
懸浮條按鈕對應實現了功能的按鈕，有對應圖標切換處理，比如錄像按鈕按下後會切換到正在錄像中的圖標，聲音按鈕切換後變成靜音圖標，再次切換還原。
懸浮條按鈕單擊後都用名稱唯一標識作爲信號發出，可以自行關聯響應處理。
懸浮條空白區域可以顯示提示信息，默認顯示當前視頻分辨率大小，可以增加幀率、碼流大小等信息。
視頻控件參數包括邊框大小、邊框顏色、焦點顏色、背景顏色（默認透明）、文字顏色（默認全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設置了圖片優先取圖片）、是否拷貝圖片、縮放顯示模式（自動調整、等比縮放、拉伸填充）、視頻顯示模式（句柄、繪製、GPU）、啓用懸浮條、懸浮條尺寸（橫向爲高度、縱向爲寬度）、懸浮條位置（頂部、底部、左側、右側）。

五、相關代碼

bool FFmpegSaveHelper::rtmp_pcm = false;
QStringList FFmpegSaveHelper::vnames_file = QStringList() << "h264" << "hevc";
QStringList FFmpegSaveHelper::anames_pcm = QStringList() << "pcm_mulaw" << "pcm_alaw" << "pcm_s16be";
QStringList FFmpegSaveHelper::anames_file = QStringList() << "aac" << "mp2" << "mp3" << "ac3" << anames_pcm;
QStringList FFmpegSaveHelper::anames_rtmp = QStringList() << "aac" << "mp3";
QStringList FFmpegSaveHelper::anames_rtsp = QStringList() << "aac" << "mp3" << anames_pcm;

void FFmpegSaveHelper::checkEncode(FFmpegSave *thread, const QString &videoCodecName, const QString &audioCodecName, bool &videoEncode, bool &audioEncode, EncodeAudio &encodeAudio, bool &needAudio)
{
    //推流和錄製要區分判斷(推流更嚴格/主要限定在流媒體服務器端)
    bool notSupportVideo = false;
    bool notSupportAudio = false;
    SaveMode saveMode = thread->getSaveMode();
    QString mediaUrl = thread->property("mediaUrl").toString();
    if (saveMode == SaveMode_File) {
        notSupportVideo = !vnames_file.contains(videoCodecName);
        notSupportAudio = !anames_file.contains(audioCodecName);
    } else {
        //具體需要根據實際需求進行調整
        if (saveMode == SaveMode_Rtmp) {
            notSupportVideo = (videoCodecName != "h264");
            notSupportAudio = !anames_rtmp.contains(audioCodecName);
        } else if (saveMode == SaveMode_Rtsp) {
            notSupportVideo = !vnames_file.contains(videoCodecName);
            notSupportAudio = !anames_rtsp.contains(audioCodecName);
        }

        //特定格式過濾
        if (mediaUrl.endsWith(".m3u8")) {
            notSupportAudio = true;
        }
    }

    if (notSupportVideo) {
        thread->debug(0, "視頻格式", QString("警告: %1").arg(videoCodecName));
        videoEncode = true;
    }

    if (notSupportAudio) {
        thread->debug(0, "音頻格式", QString("警告: %1").arg(audioCodecName));
        audioEncode = true;
    }

    //0. 因爲還沒有搞定萬能轉換/所以暫時做下面的限制
    //1. 保存文件模式下純音頻統一編碼成pcma
    //2. 保存文件模式下視音頻且啓用了轉碼則禁用音頻
    //3. 推流RTMP模式下啓用了轉碼則禁用音頻
    //4. 推流RTSP模式下純音頻且啓用了轉碼則編碼成pcma
    //5. 推流RTSP模式下啓用了轉碼則禁用音頻
    //6. 純音頻aac格式在推流的時候可選轉碼/有些流媒體程序必須要求轉碼才能用
    bool encodeAac = false;
    bool onlySaveAudio = thread->getOnlySaveAudio();
    bool onlyAac = (onlySaveAudio && audioCodecName == "aac");
    if (encodeAudio == EncodeAudio_Auto) {
        if (saveMode == SaveMode_File) {
            if (onlySaveAudio || audioCodecName == "pcm_s16le") {
                encodeAudio = EncodeAudio_Pcma;
            } else if (audioEncode) {
                needAudio = false;
            }
        } else if (saveMode == SaveMode_Rtmp) {
            if (audioEncode) {
                needAudio = false;
            } else if (onlyAac && encodeAac) {
                encodeAudio = EncodeAudio_Aac;
            }
        } else if (saveMode == SaveMode_Rtsp) {
            if (audioEncode) {
                encodeAudio = EncodeAudio_Pcma;
            } else if (onlyAac && encodeAac) {
                encodeAudio = EncodeAudio_Pcma;
            }
        }
    }

    //如果設置過需要檢查B幀/有B幀推流需要轉碼/否則一卡卡
    if (!videoEncode && !onlySaveAudio && saveMode != SaveMode_File) {
        bool checkB = thread->property("checkB").toBool();
        bool isFile = thread->property("isFile").toBool();
        if (checkB && isFile && FFmpegUtil::hasB(mediaUrl)) {
            videoEncode = true;
        }
    }

    //部分流媒體服務支持推pcma和pcmu
    if (rtmp_pcm && saveMode == SaveMode_Rtmp && anames_pcm.contains(audioCodecName)) {
        needAudio = true;
        encodeAudio = EncodeAudio_Pcma;
    }

    //音頻需要強轉則必須設置啓用音頻編碼
    if (encodeAudio != EncodeAudio_Auto) {
        audioEncode = true;
    }
}

const char *FFmpegSaveHelper::getFormat(AVDictionary **options, QString &fileName, bool mov, const QString &flag)
{
    //默認是mp4/mov更具兼容性比如音頻支持pcma等
    const char *format = mov ? "mov" : "mp4";
    if (fileName.startsWith("rtmp://")) {
        format = "flv";
    } else if (fileName.startsWith("rtsp://")) {
        format = "rtsp";
        av_dict_set(options, "stimeout", "3000000", 0);
        av_dict_set(options, "rtsp_transport", "tcp", 0);
    } else if (fileName.startsWith("udp://")) {
        format = "mpegts";
    } else {
        QByteArray temp;
        if (!flag.isEmpty()) {
            temp = flag.toUtf8();
            format = temp.constData();
            QString suffix = fileName.split(".").last();
            fileName.replace(suffix, flag);
        }
    }

    return format;
}

bool FFmpegSave::initStream()
{
    //如果存在祕鑰則啓用加密
    AVDictionary *options = NULL;
    FFmpegHelper::initEncryption(&options, this->property("cryptoKey").toByteArray());

    QString flag;
    if (getOnlySaveAudio() && encodeAudio != EncodeAudio_Aac) {
        flag = "wav";
    }

    //既可以是保存到文件也可以是推流(對應格式要區分)
    bool mov = audioCodecName.startsWith("pcm_");
    const char *format = FFmpegSaveHelper::getFormat(&options, fileName, mov, flag);

    //開闢一個格式上下文用來處理視頻流輸出(末尾url不填則rtsp推流失敗)
    QByteArray fileData = fileName.toUtf8();
    const char *url = fileData.data();
    int result = avformat_alloc_output_context2(&formatCtx, NULL, format, url);
    if (result < 0) {
        debug(result, "創建格式", "");
        return false;
    }

    //創建輸出視頻流
    if (!this->initVideoStream()) {
        goto end;
    }

    //創建輸出音頻流
    if (!this->initAudioStream()) {
        goto end;
    }

    //打開輸出文件
    if (!(formatCtx->oformat->flags & AVFMT_NOFILE)) {
        //記錄開始時間並設置回調用於超時判斷
        startTime = av_gettime();
        formatCtx->interrupt_callback.callback = FFmpegSaveHelper::openAndWriteCallBack;
        formatCtx->interrupt_callback.opaque = this;

        tryOpen = true;
        result = avio_open2(&formatCtx->pb, url, AVIO_FLAG_WRITE, &formatCtx->interrupt_callback, NULL);
        tryOpen = false;
        if (result < 0) {
            debug(result, "打開輸出", "");
            goto end;
        }
    }

    //寫入文件開始符
    result = avformat_write_header(formatCtx, &options);
    if (result < 0) {
        debug(result, "寫文件頭", "");
        goto end;
    }

    writeHeader = true;
    debug(0, "打開輸出", QString("格式: %1").arg(format));
    return true;

end:
    //關閉釋放並清理文件
    this->close();
    this->deleteFile(fileName);
    return false;
}

bool FFmpegSave::initVideoStream()
{
    if (needVideo) {
        videoIndexOut = 0;
        AVStream *stream = avformat_new_stream(formatCtx, NULL);
        if (!stream) {
            return false;
        }

        //設置旋轉角度(沒有編碼的數據是源頭帶有旋轉角度的/編碼後的是正常旋轉好的)
        if (!videoEncode) {
            FFmpegHelper::setRotate(stream, rotate);
        }

        //複製解碼器上下文參數(不編碼從源頭流拷貝/編碼從設置的編碼器拷貝)
        int result = -1;
        if (videoEncode) {
            stream->r_frame_rate = videoCodecCtx->framerate;
            result = FFmpegHelper::copyContext(videoCodecCtx, stream, true);
        } else {
            result = FFmpegHelper::copyContext(videoStreamIn, stream);
        }

        if (result < 0) {
            debug(result, "複製參數", "");
            return false;
        }
    }

    return true;
}

bool FFmpegSave::initAudioStream()
{
    if (needAudio) {
        audioIndexOut = (videoIndexOut == 0 ? 1 : 0);
        AVStream *stream = avformat_new_stream(formatCtx, NULL);
        if (!stream) {
            return false;
        }

        //複製解碼器上下文參數(不編碼從源頭流拷貝/編碼從設置的編碼器拷貝)
        int result = -1;
        if (audioEncode) {
            result = FFmpegHelper::copyContext(audioCodecCtx, stream, true);
        } else {
            result = FFmpegHelper::copyContext(audioStreamIn, stream);
        }

        if (result < 0) {
            debug(result, "複製參數", "");
            return false;
        }
    }

    return true;
}

Qt/C++音視頻開發70-無感切換通道/無縫切換播放視頻/多通道流暢切換/不同視頻打開無縫切換

一、前言

二、效果圖

四、功能特點

4.1. 基礎功能

4.2. 特色功能

4.3. 視頻控件

五、相關代碼

ollama使用

分享一份物聯網SAAS平臺架構設計

「Qt Widget中文示例指南」如何實現一個快捷編輯器（一）

解鎖HDC 2024之旅：從購票到報名，全程攻略

O2OA開發平臺前端源碼級二次開發（Vue3,React）

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結