Qt音視頻開發06-海康sdk內核linux客戶端

一、前言

海康sdk的示例在官方是提供了的，但是無論UI還是交互簡直是宇宙無敵的垃圾，猜測應該是初學者編寫的，估計練手用的，所以老早就想把這個linux支持集成到自己的示例中，既然已經支持了windows的版本，對於linux版本只需要引入linux上的sdk的庫即可。官方的sdk開發庫也是不斷更新升級的，最新的版本基本的頭文件都統一了可以共用，之前的舊版本基本上各自爲戰，估計是不同的研發團隊，沒有統一的頭文件約定導致的。現在基本上windows上的庫和linux庫在解碼的時候唯一的不同點就是回調數據的用戶數據指針，win上已經是void *指針了，而linux上的還是long類型，其實應該換成void *作爲用戶數據纔是最佳的設計，期待後期的版本修復這個問題。

二、效果圖

三、體驗地址

國內站點：https://gitee.com/feiyangqingyun
國際站點：https://github.com/feiyangqingyun
個人作品：https://blog.csdn.net/feiyangqingyun/article/details/97565652
體驗地址：https://pan.baidu.com/s/1d7TH_GEYl5nOecuNlWJJ7g 提取碼：01jf 文件名：bin_video_demo/bin_linux_video。

四、相關代碼

bool HaiKangThread::openRtsp(QWidget *widget)
{
    //可以根據實際需求啓用過濾非海康設備(有部分第三方廠家的設備也兼容海康私有協議)
    if (!HaiKangHelper::isHaiKangDevice(videoUrl)) {
        debug("地址有誤", "原因: 不是海康設備地址");
        //return false;
    }

    //從視頻地址取出設備信息和用戶信息等
    QString ip, userName, userPwd;
    int port, channel, streamType;
    HaiKangHelper::getDeviceInfo(videoUrl, ip, port, channel, streamType, userName, userPwd);
    QString msg = QString("地址: %1 用戶: %2 密碼: %3 端口: %4 通道: %5 碼流: %6").arg(ip).arg(userName).arg(userPwd).arg(port).arg(channel).arg(streamType);
    debug("設備信息", msg);

    //登錄設備
    NET_DVR_DEVICEINFO_V30 deviceInfo;
    userid = NET_DVR_Login_V30(ip.toUtf8().data(), port, userName.toUtf8().data(), userPwd.toUtf8().data(), &deviceInfo);
    if (userid >= 0) {
        //獲取設備配置信息
        NET_DVR_COMPRESSIONCFG_V30 deviceConfig = {0};
        DWORD dwRet = 0;
        NET_DVR_GetDVRConfig(userid, NET_DVR_GET_COMPRESSCFG_V30, channel, &deviceConfig, sizeof(deviceConfig), &dwRet);
        frameRate = deviceConfig.struNormHighRecordPara.dwVideoFrameRate;

        //主碼流和子碼流獲取對應的分辨率
        int resolution = (streamType == 0 ? deviceConfig.struNormHighRecordPara.byResolution : deviceConfig.struNetPara.byResolution);
        HaiKangHelper::getResolution(resolution, videoWidth, videoHeight);
        msg = QString("寬高: %1x%2 - %3").arg(videoWidth).arg(videoHeight).arg(resolution);
        debug("登錄成功", msg);

        //以下參數具體見對應頭文件說明
        NET_DVR_PREVIEWINFO previewInfo;
        previewInfo.lChannel = channel;
        previewInfo.dwStreamType = streamType;
        previewInfo.dwLinkMode = (transport == "tcp" ? 0 : 1);
        previewInfo.bBlocked = 0;
        previewInfo.byProtoType = 1;
        previewInfo.byPreviewMode = 0;
        previewInfo.dwDisplayBufNum = 15;

        //回調則可以拿到音視頻數據
        if (videoMode == VideoMode_Hwnd) {
            previewInfo.hPlayWnd = (HWND)widget->winId();
            hwnd = NET_DVR_RealPlay_V40(userid, &previewInfo, NULL, NULL);
            //海康視頻流默認打開後聲音是0
            emit receiveVolume(0);
        } else {
            this->initData();
            hwnd = NET_DVR_RealPlay_V40(userid, &previewInfo, HaiKangHelper::RealDataCallBack, callbackData);
        }

        if (hwnd < 0) {
            debug("打開失敗", QString("錯誤: %1").arg(NET_DVR_GetLastError()));
        }
        return (hwnd >= 0);
    } else {
        debug("登錄失敗", QString("錯誤: %1").arg(NET_DVR_GetLastError()));
        return false;
    }
}

bool HaiKangThread::openFile(QWidget *widget)
{
    //轉碼以便支持中文路徑
    QTextCodec *codec = QTextCodec::codecForName("gb2312");
    QByteArray data = codec->fromUnicode(videoUrl);

    PlayM4_GetPort(&port);
    bool ok = PlayM4_OpenFile(port, data.data());
    if (ok) {
        //設置文件播放完畢回調函數
        PlayM4_SetFileEndCallback(port, HaiKangHelper::FileEndCallback, this);
        //回調則可以拿到音視頻數據
        if (videoMode == VideoMode_Hwnd) {
            PlayM4_Play(port, (HWND)widget->winId());
        } else {
            this->initData();
            PlayM4_SetDecCallBackMend(port, HaiKangHelper::DecCallBack, callbackData);
            PlayM4_Play(port, NULL);
        }

        //同時播放聲音
        //PlayM4_PlaySound(port);
        PlayM4_PlaySoundShare(port);
        return true;
    } else {
        debug("打開失敗", "錯誤: %1" + PlayM4_GetLastError(port));
        return false;
    }
}

bool HaiKangThread::openVideo()
{
    //先檢查地址是否正常(文件是否存在或者網絡地址是否可達)
    if (!VideoHelper::checkUrl(this, videoType, videoUrl, connectTimeout)) {
        return false;
    }

    //啓動計時
    timer.start();

    //必須是rtsp視頻流地址或者mp4文件
    if (videoType == VideoType_Rtsp) {
        if (!openRtsp(hwndWidget)) {
            return false;
        }
    } else if (videoType == VideoType_FileLocal) {
        if (!openFile(hwndWidget)) {
            return false;
        } else {
            readMediaInfo();
        }
    } else {
        return false;
    }

    isOk = true;
    emit recorderStateChanged(RecorderState_Stopped, fileName);
    lastTime = QDateTime::currentDateTime();
    int time = timer.elapsed();
    debug("打開成功", QString("用時: %1 毫秒").arg(time));
    emit receivePlayStart(time);
    return isOk;
}

void HaiKangThread::closeVideo()
{
    //先停止錄製
    recordStop();
    //搞個標誌位判斷是否需要調用父類的釋放(可以防止重複調用)
    bool needClose = (hwnd >= 0 || port >= 0);

    if (hwnd >= 0) {
        //停止聲音
        NET_DVR_CloseSoundShare(hwnd);
        //停止預覽
        NET_DVR_StopRealPlay(hwnd);
        //登出設備
        NET_DVR_Logout_V30(userid);
    }

    if (port >= 0) {
        //停止聲音
        //PlayM4_StopSound();
        PlayM4_StopSoundShare(port);
        //停止播放
        PlayM4_Stop(port);
        //關閉文件
        PlayM4_CloseFile(port);
        //關閉視頻流
        PlayM4_CloseStream(port);
        //釋放端口
        PlayM4_FreePort(port);
    }

    hwnd = -1;
    userid = -1;
    port = -1;

    openSound = false;
    lastVolume = 100;
    this->freeData();

    if (needClose) {
        VideoThread::closeVideo();
    }
}

五、功能特點

5.1 基礎功能

支持各種音頻視頻文件格式，比如mp3、wav、mp4、asf、rm、rmvb、mkv等。
支持本地攝像頭設備，可指定分辨率、幀率。
支持各種視頻流格式，比如rtp、rtsp、rtmp、http等。
本地音視頻文件和網絡音視頻文件，自動識別文件長度、播放進度、音量大小、靜音狀態等。
文件可以指定播放位置、調節音量大小、設置靜音狀態等。
支持倍速播放文件，可選0.5倍、1.0倍、2.5倍、5.0倍等速度，相當於慢放和快放。
支持開始播放、停止播放、暫停播放、繼續播放。
支持抓拍截圖，可指定文件路徑，可選抓拍完成是否自動顯示預覽。
支持錄像存儲，手動開始錄像、停止錄像，部分內核支持暫停錄像後繼續錄像，跳過不需要錄像的部分。
支持無感知切換循環播放、自動重連等機制。
提供播放成功、播放完成、收到解碼圖片、收到抓拍圖片、視頻尺寸變化、錄像狀態變化等信號。
多線程處理，一個解碼一個線程，不卡主界面。

5.2 特色功能

同時支持多種解碼內核，包括qmedia內核（Qt4/Qt5/Qt6）、ffmpeg內核（ffmpeg2/ffmpeg3/ffmpeg4/ffmpeg5）、vlc內核（vlc2/vlc3）、mpv內核（mpv1/mp2）、海康sdk、easyplayer內核等。
非常完善的多重基類設計，新增一種解碼內核只需要實現極少的代碼量，就可以應用整套機制。
同時支持多種畫面顯示策略，自動調整（原始分辨率小於顯示控件尺寸則按照原始分辨率大小顯示，否則等比例縮放）、等比例縮放（永遠等比例縮放）、拉伸填充（永遠拉伸填充）。所有內核和所有視頻顯示模式下都支持三種畫面顯示策略。
同時支持多種視頻顯示模式，句柄模式（傳入控件句柄交給對方繪製控制）、繪製模式（回調拿到數據後轉成QImage用QPainter繪製）、GPU模式（回調拿到數據後轉成yuv用QOpenglWidget繪製）。
支持多種硬件加速類型，ffmpeg可選dxva2、d3d11va等，mpv可選auto、dxva2、d3d11va，vlc可選any、dxva2、d3d11va。不同的系統環境有不同的類型選擇，比如linux系統有vaapi、vdpau，macos系統有videotoolbox。
解碼線程和顯示窗體分離，可指定任意解碼內核掛載到任意顯示窗體，動態切換。
支持共享解碼線程，默認開啓並且自動處理，當識別到相同的視頻地址，共享一個解碼線程，在網絡視頻環境中可以大大節約網絡流量以及對方設備的推流壓力。國內頂尖視頻廠商均採用此策略。這樣只要拉一路視頻流就可以共享到幾十個幾百個通道展示。
自動識別視頻旋轉角度並繪製，比如手機上拍攝的視頻一般是旋轉了90度的，播放的時候要自動旋轉處理，不然默認是倒着的。
自動識別視頻流播放過程中分辨率的變化，在視頻控件上自動調整尺寸。比如攝像機可以在使用過程中動態配置分辨率，當分辨率改動後對應視頻控件也要做出同步反應。
音視頻文件無感知自動切換循環播放，不會出現切換期間黑屏等肉眼可見的切換痕跡。
視頻控件同時支持任意解碼內核、任意畫面顯示策略、任意視頻顯示模式。
視頻控件懸浮條同時支持句柄、繪製、GPU三種模式，非絕對座標移來移去。
本地攝像頭設備支持指定設備名稱、分辨率、幀率進行播放。
錄像文件同時支持打開的視頻文件、本地攝像頭、網絡視頻流等。
瞬間響應打開和關閉，無論是打開不存在的視頻或者網絡流，探測設備是否存在，讀取中的超時等待，收到關閉指令立即中斷之前的操作並響應。
支持打開各種圖片文件，支持本地音視頻文件拖曳播放。
視頻控件懸浮條自帶開始和停止錄像切換、聲音靜音切換、抓拍截圖、關閉視頻等功能。
音頻組件支持聲音波形值數據解析，可以根據該值繪製波形曲線和柱狀聲音條，默認提供了聲音振幅信號。
各組件中極其詳細的打印信息提示，尤其是報錯信息提示，封裝的統一打印格式。針對現場複雜的設備環境測試極其方便有用，相當於精確定位到具體哪個通道哪個步驟出錯。
代碼框架和結構優化到最優，性能強悍，持續迭代更新升級。
源碼支持Qt4、Qt5、Qt6，兼容所有版本。

5.3 視頻控件

可動態添加任意多個osd標籤信息，標籤信息包括名字、是否可見、字號大小、文本文字、文本顏色、標籤圖片、標籤座標、標籤格式（文本、日期、時間、日期時間、圖片）、標籤位置（左上角、左下角、右上角、右下角、居中、自定義座標）。
可動態添加任意多個圖形信息，這個非常有用，比如人工智能算法解析後的圖形區域信息直接發給視頻控件即可。圖形信息支持任意形狀，直接繪製在原始圖片上，採用絕對座標。
圖形信息包括名字、邊框大小、邊框顏色、背景顏色、矩形區域、路徑集合、點座標集合等。
每個圖形信息都可指定三種區域中的一種或者多種，指定了的都會繪製。
內置懸浮條控件，懸浮條位置支持頂部、底部、左側、右側。
懸浮條控件參數包括邊距、間距、背景透明度、背景顏色、文本顏色、按下顏色、位置、按鈕圖標代碼集合、按鈕名稱標識集合、按鈕提示信息集合。
懸浮條控件一排工具按鈕可自定義，通過結構體參數設置，圖標可選圖形字體還是自定義圖片。
懸浮條按鈕內部實現了錄像切換、抓拍截圖、靜音切換、關閉視頻等功能，也可以自行在源碼中增加自己對應的功能。
懸浮條按鈕對應實現了功能的按鈕，有對應圖標切換處理，比如錄像按鈕按下後會切換到正在錄像中的圖標，聲音按鈕切換後變成靜音圖標，再次切換還原。
懸浮條按鈕單擊後都用名稱唯一標識作爲信號發出，可以自行關聯響應處理。
懸浮條空白區域可以顯示提示信息，默認顯示當前視頻分辨率大小，可以增加幀率、碼流大小等信息。
視頻控件參數包括邊框大小、邊框顏色、焦點顏色、背景顏色（默認透明）、文字顏色（默認全局文字顏色）、填充顏色（視頻外的空白處填充黑色）、背景文字、背景圖片（如果設置了圖片優先取圖片）、是否拷貝圖片、縮放顯示模式（自動調整、等比例縮放、拉伸填充）、視頻顯示模式（句柄、繪製、GPU）、啓用懸浮條、懸浮條尺寸（橫向爲高度、縱向爲寬度）、懸浮條位置（頂部、底部、左側、右側）。

5.4 內核ffmpeg

支持各種音視頻文件、本地攝像頭設備，各種視頻流網絡流。
支持開始播放、暫停播放、繼續播放、停止播放、設置播放進度、倍速播放。
可設置音量、靜音切換、抓拍圖片、錄像存儲。
自動提取專輯信息比如標題、藝術家、專輯、專輯封面，自動顯示專輯封面。
完美支持音視頻同步和倍速播放。
解碼策略支持速度優先、質量優先、均衡處理、最快速度。
支持手機視頻旋轉角度顯示，比如一般手機拍攝的視頻是旋轉了90度的，解碼顯示的時候需要重新旋轉90度纔是正的。
自動轉換yuv420格式，比如本地攝像頭是yuyv422格式，有些視頻文件是xx格式，統一將非yuv420格式轉換，然後再進行處理。
支持硬解碼dxva2、d3d11va等，性能極高尤其是大分辨率比如4K視頻。
視頻響應極低延遲0.2s左右，極速響應打開視頻流0.5s左右，專門做了優化處理。
硬解碼和GPU繪製組合，極低CPU佔用，比海康大華等客戶端更優。
支持視頻流中的各種音頻格式，AAC、PCM、G.726、G.711A、G.711Mu、G.711ulaw、G.711alaw、MP2L2等都支持，推薦選擇AAC兼容性跨平臺性最好。
視頻存儲支持yuv、h264、mp4多種格式，音頻存儲支持pcm、wav、aac多種格式。默認視頻mp4格式、音頻aac格式。
支持分開存儲音頻視頻文件，也支持合併到一個mp4文件，默認策略是無論何種音視頻文件格式存儲，最終都轉成mp4及aac格式，然後合併成音視頻一起的mp4文件。
支持本地攝像頭實時視頻顯示帶音頻輸入輸出，音視頻錄製合併到一個mp4文件。
支持H264/H265編碼（現在越來越多的監控攝像頭是H265視頻流格式）生成視頻文件，內部自動識別切換編碼格式。
自動識別視頻流動態分辨率改動，重新打開視頻流。
支持用戶信息中包含特殊字符（比如用戶信息中包含+#@等字符）的視頻流播放，內置解析轉義處理。
純qt+ffmpeg解碼，非sdl等第三方繪製播放依賴，gpu繪製採用qopenglwidget，音頻播放採用qaudiooutput。
同時支持ffmpeg2、ffmpeg3、ffmpeg4、ffmpeg5版本，全部做了兼容處理。如果需要支持xp需要選用ffmpeg3及以下。

Qt音視頻開發06-海康sdk內核linux客戶端

一、前言

二、效果圖

三、體驗地址

四、相關代碼

五、功能特點

5.1 基礎功能

5.2 特色功能

5.3 視頻控件

5.4 內核ffmpeg

自學編程兩個月，現在我月入 4 萬元

Google Chrome驅動程序 124.0.6367.62（正式版本）去哪下載？

Qt程序員必看/關於Qt收費的官方答覆

這可能是國內Qt/C++界最受歡迎開源項目之一/5.8Kstar/持續迭代更新

Qt/C++通用跨平臺Onvif工具/支持海康大華宇視華爲天地偉業等/雲臺控制/預置位管理/工程調試利器

Qt/C++監控推流設備推流/延遲極低/實時性極高/rtsp/rtmp推流/hls/flv/webrtc拉流/調整分辨率降低帶寬

Qt/C++音視頻開發67-保存裸流加入sps/pps信息/支持264/265裸流/轉碼保存/拉流推流

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結