Qt音視頻開發07-合併音視頻文件

一、前言

之前已經把音視頻分開存儲了對應的文件,因爲這個需求特別少,當然確實有部分用戶是需要把音視頻分開存儲,但是畢竟是很少數,絕大部分的用戶都是音視頻合併到一個MP4文件,所以如果要合併到一個文件,現在已經存儲成了兩個文件,最簡單的做法就是調用ffmpeg命令行將兩個文件合併,這種做法簡單粗暴,爲此專門寫了一個線程類 FFmpegRunThread 執行這些轉換操作。轉換的時候很耗CPU,如果視頻文件很長很大,基本上CPU處於快被榨乾的狀態。

通過調用ffmpeg命令行的方式合併的文件,如果源頭是本地視頻文件或者網絡的視頻文件,合併後都是正常的,音視頻同步的,而對於視頻流這種沒有時長的數據的存儲,大量的測試驗證下來,存在音頻視頻不同步的情況,所以後期重新研究音視頻一起保存的方法。

二、效果圖


三、體驗地址

  1. 國內站點:https://gitee.com/feiyangqingyun
  2. 國際站點:https://github.com/feiyangqingyun
  3. 個人作品:https://blog.csdn.net/feiyangqingyun/article/details/97565652
  4. 體驗地址:https://pan.baidu.com/s/1d7TH_GEYl5nOecuNlWJJ7g 提取碼:01jf 文件名:bin_video_demo/bin_linux_video。

四、相關代碼

#include "ffmpegrun.h"
#include "ffmpegrunthread.h"
#include "qfileinfo.h"

bool FFmpegRun::run(const QStringList &args, bool exec)
{
    if (exec) {
        return FFmpegRunThread::execute(args);
    } else {
        //每個指令都開啓獨立的線程執行(執行完成會立即釋放線程)
        FFmpegRunThread *runThread = new FFmpegRunThread;
        runThread->startExecute(args);
        return true;
    }
}

QString FFmpegRun::replaceSuffix(const QString &fileSrc, const QString &suffix)
{
    QString fileDst = fileSrc;
    fileDst.replace(QFileInfo(fileSrc).suffix(), suffix);
    return fileDst;
}

bool FFmpegRun::yuv420pToMp4(const QString &fileSrc)
{
    //根據文件名自動提取寬度高度幀率
    //要求名字格式 640x408x30.xxx 640_480_30.xxx 1920x1080_aaaa.xxx
    int frameRate = 25;
    int width = 640;
    int height = 480;

    QString name = QFileInfo(fileSrc).baseName();
    QStringList list;
    if (name.contains("_")) {
        list = name.split("_");
    } else if (name.contains("x")) {
        list = name.split("x");
    }

    if (list.size() >= 2) {
        width = list.at(0).toInt();
        height = list.at(1).toInt();
    }
    if (list.size() >= 3) {
        frameRate = list.at(2).toInt();
    }

    return yuv420pToMp4(fileSrc, frameRate, width, height);
}

bool FFmpegRun::yuv420pToMp4(const QString &fileSrc, int frameRate, int width, int height)
{
    QString fileDst = replaceSuffix(fileSrc, "mp4");
    return yuv420pToMp4(fileSrc, fileDst, frameRate, width, height);
}

//播放音頻 ffplay -ar 48000 -ac 2 -f s16le -i d:/out.pcm
//倍速播放 ffplay f:/mp4/1.mp4 -af atempo=2 -vf setpts=PTS/2

//-c:v libx264 -preset fast -crf 18  framerate=r  video_size=s  vcodec=c:v  acodec=c:a
//ffmpeg.exe -threads auto -f rawvideo -framerate 30 -video_size 640x480 -pix_fmt yuv420p -i e:/1.yuv e:/1.mp4
//ffmpeg -threads auto -f rawvideo -r 30 -s 640x480 -pix_fmt yuv420p -i /home/liu/1.yuv /home/liu/1.mp4
bool FFmpegRun::yuv420pToMp4(const QString &fileSrc, const QString &fileDst, int frameRate, int width, int height)
{
    QStringList args;
    args << "-threads" << "auto";
    args << "-f" << "rawvideo";
#if 0
    args << "-framerate" << QString::number(frameRate);
    args << "-video_size" << QString("%1x%2").arg(width).arg(height);
#else
    args << "-r" << QString::number(frameRate);
    args << "-s" << QString("%1x%2").arg(width).arg(height);
#endif
    args << "-pix_fmt" << "yuv420p";
    args << "-i" << fileSrc;
    //下面這些參數非必須(linux上不支持)
#if 0
    args << "-vcodec" << "libx264";
    args << "-preset" << "fast";
    args << "-crf" << QString::number(18);
#endif
    args << fileDst;
    return run(args);
}

bool FFmpegRun::mp4ToYuv420p(const QString &fileSrc)
{
    QString fileDst = replaceSuffix(fileSrc, "yuv");
    return mp4ToYuv420p(fileSrc, fileDst, 0, 0);
}

//ffmpeg.exe -i e:/1.mp4 -s 640x480 -pix_fmt yuv420p e:/1.yuv
bool FFmpegRun::mp4ToYuv420p(const QString &fileSrc, const QString &fileDst, int width, int height)
{
    QStringList args;
    //尺寸爲空則自動採用默認的
    if (width > 0 && height > 0) {
        args << "-s" << QString("%1x%2").arg(width).arg(height);
    }

    args << "-pix_fmt" << "yuv420p";
    args << "-i" << fileSrc;
    args << "-y" << fileDst;
    return run(args);
}

bool FFmpegRun::wavToAac(const QString &fileSrc)
{
    QString fileDst = replaceSuffix(fileSrc, "aac");
    return wavToAac(fileSrc, fileDst);
}

bool FFmpegRun::wavToAac(const QString &fileSrc, const QString &fileDst)
{
    QStringList args;
    args << "-i" << fileSrc;
    args << fileDst;
    return run(args, true);
}

bool FFmpegRun::aacAndH264ToMp4(const QString &fileSrc)
{
    QString aacFile = replaceSuffix(fileSrc, "aac");
    QString fileDst = replaceSuffix(fileSrc, "mp4");
    return mergeToMp4(aacFile, fileSrc, fileDst);
}

bool FFmpegRun::aacAndMp4ToMp4(const QString &fileSrc)
{
    QString aacFile = replaceSuffix(fileSrc, "aac");
    QString mp4File = replaceSuffix(fileSrc, "mp4");
    QString baseName = fileSrc;
    baseName.replace(".mp4", "");
    //搞個臨時的名稱轉換好以後再重命名
    QString fileDst = baseName + "-tmp.mp4";
    return mergeToMp4(aacFile, mp4File, fileDst);
}

bool FFmpegRun::mergeToMp4(const QString &fileSrc1, const QString &fileSrc2, const QString &fileDst)
{
    //文件不存在不用繼續
    if (QFile(fileSrc1).size() == 0 || QFile(fileSrc2).size() == 0) {
        return false;
    }

    //ffmpeg -i d:/1.aac -i d:/1.mp4 -y d:/out.mp4
    QStringList args;
    //QString arg = "-vcodec copy -acodec copy";
    //QString arg = "-c:v copy -c:a aac -strict experimental";
    //args << arg.split(" ");

    args << "-i" << fileSrc1;
    args << "-i" << fileSrc2;
    args << "-y" << fileDst;
    return run(args);
}

bool FFmpegRun::convertMp4(const QString &fileSrc)
{
    QString baseName = fileSrc;
    baseName.replace(".mp4", "");
    //搞個臨時的名稱轉換好以後再重命名
    QString fileDst = baseName + "-tmp.mp4";
    return convertMp4(fileSrc, fileDst);
}

bool FFmpegRun::convertMp4(const QString &fileSrc, const QString &fileDst)
{
    //文件不存在不用繼續
    if (QFile(fileSrc).size() == 0) {
        return false;
    }

    //ffmpeg -i d:/1.mp4 -y d:/out.mp4
    QStringList args;
    args << "-i" << fileSrc;
    args << "-y" << fileDst;
    return run(args);
}

五、功能特點

5.1 基礎功能

  1. 支持各種音頻視頻文件格式,比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
  2. 支持本地攝像頭設備,可指定分辨率、幀率。
  3. 支持各種視頻流格式,比如rtp、rtsp、rtmp、http等。
  4. 本地音視頻文件和網絡音視頻文件,自動識別文件長度、播放進度、音量大小、靜音狀態等。
  5. 文件可以指定播放位置、調節音量大小、設置靜音狀態等。
  6. 支持倍速播放文件,可選0.5倍、1.0倍、2.5倍、5.0倍等速度,相當於慢放和快放。
  7. 支持開始播放、停止播放、暫停播放、繼續播放。
  8. 支持抓拍截圖,可指定文件路徑,可選抓拍完成是否自動顯示預覽。
  9. 支持錄像存儲,手動開始錄像、停止錄像,部分內核支持暫停錄像後繼續錄像,跳過不需要錄像的部分。
  10. 支持無感知切換循環播放、自動重連等機制。
  11. 提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態變化等信號。
  12. 多線程處理,一個解碼一個線程,不卡主界面。

5.2 特色功能

  1. 同時支持多種解碼內核,包括qmedia內核(Qt4/Qt5/Qt6)、ffmpeg內核(ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5)、vlc內核(vlc2/vlc3)、mpv內核(mpv1/mp2)、海康sdk、easyplayer內核等。
  2. 非常完善的多重基類設計,新增一種解碼內核只需要實現極少的代碼量,就可以應用整套機制。
  3. 同時支持多種畫面顯示策略,自動調整(原始分辨率小於顯示控件尺寸則按照原始分辨率大小顯示,否則等比例縮放)、等比例縮放(永遠等比例縮放)、拉伸填充(永遠拉伸填充)。所有內核和所有視頻顯示模式下都支持三種畫面顯示策略。
  4. 同時支持多種視頻顯示模式,句柄模式(傳入控件句柄交給對方繪製控制)、繪製模式(回調拿到數據後轉成QImage用QPainter繪製)、GPU模式(回調拿到數據後轉成yuv用QOpenglWidget繪製)。
  5. 支持多種硬件加速類型,ffmpeg可選dxva2、d3d11va等,mpv可選auto、dxva2、d3d11va,vlc可選any、dxva2、d3d11va。不同的系統環境有不同的類型選擇,比如linux系統有vaapi、vdpau,macos系統有videotoolbox。
  6. 解碼線程和顯示窗體分離,可指定任意解碼內核掛載到任意顯示窗體,動態切換。
  7. 支持共享解碼線程,默認開啓並且自動處理,當識別到相同的視頻地址,共享一個解碼線程,在網絡視頻環境中可以大大節約網絡流量以及對方設備的推流壓力。國內頂尖視頻廠商均採用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
  8. 自動識別視頻旋轉角度並繪製,比如手機上拍攝的視頻一般是旋轉了90度的,播放的時候要自動旋轉處理,不然默認是倒着的。
  9. 自動識別視頻流播放過程中分辨率的變化,在視頻控件上自動調整尺寸。比如攝像機可以在使用過程中動態配置分辨率,當分辨率改動後對應視頻控件也要做出同步反應。
  10. 音視頻文件無感知自動切換循環播放,不會出現切換期間黑屏等肉眼可見的切換痕跡。
  11. 視頻控件同時支持任意解碼內核、任意畫面顯示策略、任意視頻顯示模式。
  12. 視頻控件懸浮條同時支持句柄、繪製、GPU三種模式,非絕對座標移來移去。
  13. 本地攝像頭設備支持指定設備名稱、分辨率、幀率進行播放。
  14. 錄像文件同時支持打開的視頻文件、本地攝像頭、網絡視頻流等。
  15. 瞬間響應打開和關閉,無論是打開不存在的視頻或者網絡流,探測設備是否存在,讀取中的超時等待,收到關閉指令立即中斷之前的操作並響應。
  16. 支持打開各種圖片文件,支持本地音視頻文件拖曳播放。
  17. 視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關閉視頻等功能。
  18. 音頻組件支持聲音波形值數據解析,可以根據該值繪製波形曲線和柱狀聲音條,默認提供了聲音振幅信號。
  19. 各組件中極其詳細的打印信息提示,尤其是報錯信息提示,封裝的統一打印格式。針對現場複雜的設備環境測試極其方便有用,相當於精確定位到具體哪個通道哪個步驟出錯。
  20. 代碼框架和結構優化到最優,性能強悍,持續迭代更新升級。
  21. 源碼支持Qt4、Qt5、Qt6,兼容所有版本。

5.3 視頻控件

  1. 可動態添加任意多個osd標籤信息,標籤信息包括名字、是否可見、字號大小、文本文字、文本顏色、標籤圖片、標籤座標、標籤格式(文本、日期、時間、日期時間、圖片)、標籤位置(左上角、左下角、右上角、右下角、居中、自定義座標)。
  2. 可動態添加任意多個圖形信息,這個非常有用,比如人工智能算法解析後的圖形區域信息直接發給視頻控件即可。圖形信息支持任意形狀,直接繪製在原始圖片上,採用絕對座標。
  3. 圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區域、路徑集合、點座標集合等。
  4. 每個圖形信息都可指定三種區域中的一種或者多種,指定了的都會繪製。
  5. 內置懸浮條控件,懸浮條位置支持頂部、底部、左側、右側。
  6. 懸浮條控件參數包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標代碼集合、按鈕名稱標識集合、按鈕提示信息集合。
  7. 懸浮條控件一排工具按鈕可自定義,通過結構體參數設置,圖標可選圖形字體還是自定義圖片。
  8. 懸浮條按鈕內部實現了錄像切換、抓拍截圖、靜音切換、關閉視頻等功能,也可以自行在源碼中增加自己對應的功能。
  9. 懸浮條按鈕對應實現了功能的按鈕,有對應圖標切換處理,比如錄像按鈕按下後會切換到正在錄像中的圖標,聲音按鈕切換後變成靜音圖標,再次切換還原。
  10. 懸浮條按鈕單擊後都用名稱唯一標識作爲信號發出,可以自行關聯響應處理。
  11. 懸浮條空白區域可以顯示提示信息,默認顯示當前視頻分辨率大小,可以增加幀率、碼流大小等信息。
  12. 視頻控件參數包括邊框大小、邊框顏色、焦點顏色、背景顏色(默認透明)、文字顏色(默認全局文字顏色)、填充顏色(視頻外的空白處填充黑色)、背景文字、背景圖片(如果設置了圖片優先取圖片)、是否拷貝圖片、縮放顯示模式(自動調整、等比例縮放、拉伸填充)、視頻顯示模式(句柄、繪製、GPU)、啓用懸浮條、懸浮條尺寸(橫向爲高度、縱向爲寬度)、懸浮條位置(頂部、底部、左側、右側)。

5.4 內核ffmpeg

  1. 支持各種音視頻文件、本地攝像頭設備,各種視頻流網絡流。
  2. 支持開始播放、暫停播放、繼續播放、停止播放、設置播放進度、倍速播放。
  3. 可設置音量、靜音切換、抓拍圖片、錄像存儲。
  4. 自動提取專輯信息比如標題、藝術家、專輯、專輯封面,自動顯示專輯封面。
  5. 完美支持音視頻同步和倍速播放。
  6. 解碼策略支持速度優先、質量優先、均衡處理、最快速度。
  7. 支持手機視頻旋轉角度顯示,比如一般手機拍攝的視頻是旋轉了90度的,解碼顯示的時候需要重新旋轉90度纔是正的。
  8. 自動轉換yuv420格式,比如本地攝像頭是yuyv422格式,有些視頻文件是xx格式,統一將非yuv420格式轉換,然後再進行處理。
  9. 支持硬解碼dxva2、d3d11va等,性能極高尤其是大分辨率比如4K視頻。
  10. 視頻響應極低延遲0.2s左右,極速響應打開視頻流0.5s左右,專門做了優化處理。
  11. 硬解碼和GPU繪製組合,極低CPU佔用,比海康大華等客戶端更優。
  12. 支持視頻流中的各種音頻格式,AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持,推薦選擇AAC兼容性跨平臺性最好。
  13. 視頻存儲支持yuv、h264、mp4多種格式,音頻存儲支持pcm、wav、aac多種格式。默認視頻mp4格式、音頻aac格式。
  14. 支持分開存儲音頻視頻文件,也支持合併到一個mp4文件,默認策略是無論何種音視頻文件格式存儲,最終都轉成mp4及aac格式,然後合併成音視頻一起的mp4文件。
  15. 支持本地攝像頭實時視頻顯示帶音頻輸入輸出,音視頻錄製合併到一個mp4文件。
  16. 支持H264/H265編碼(現在越來越多的監控攝像頭是H265視頻流格式)生成視頻文件,內部自動識別切換編碼格式。
  17. 自動識別視頻流動態分辨率改動,重新打開視頻流。
  18. 支持用戶信息中包含特殊字符(比如用戶信息中包含+#@等字符)的視頻流播放,內置解析轉義處理。
  19. 純qt+ffmpeg解碼,非sdl等第三方繪製播放依賴,gpu繪製採用qopenglwidget,音頻播放採用qaudiooutput。
  20. 同時支持ffmpeg2、ffmpeg3、ffmpeg4、ffmpeg5版本,全部做了兼容處理。如果需要支持xp需要選用ffmpeg3及以下。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章