【Android RTMP】x264 圖像數據編碼 ( Camera 圖像數據採集 | NV21 圖像數據傳到 Native 處理 | JNI 傳輸字節數組 | 局部引用變量處理 | 線程互斥 )





安卓直播推流專欄博客總結



Android RTMP 直播推流技術專欄 :


0 . 資源和源碼地址 :


1. 搭建 RTMP 服務器 : 下面的博客中講解了如何在 VMWare 虛擬機中搭建 RTMP 直播推流服務器 ;

2. 準備視頻編碼的 x264 編碼器開源庫 , 和 RTMP 數據包封裝開源庫 :

3. 講解 RTMP 數據包封裝格式 :

4. 圖像數據採集 : 從 Camera 攝像頭中採集 NV21 格式的圖像數據 , 並預覽該數據 ;

5. NV21 格式的圖像數據編碼成 H.264 格式的視頻數據 :

6. 將 H.264 格式的視頻數據封裝到 RTMP 數據包中 :

7. 階段總結 : 阿里雲服務器中搭建 RTMP 服務器 , 並使用電腦軟件推流和觀看直播內容 ;

8. 處理 Camera 圖像傳感器導致的 NV21 格式圖像旋轉問題 :

9. 下面這篇博客比較重要 , 裏面有一個快速搭建 RTMP 服務器的腳本 , 強烈建議使用 ;

10. 編碼 AAC 音頻數據的開源庫 FAAC 交叉編譯與 Android Studio 環境搭建 :

11. 解析 AAC 音頻格式 :

12 . 將麥克風採集的 PCM 音頻採樣編碼成 AAC 格式音頻 , 並封裝到 RTMP 包中 , 推流到客戶端 :






Android 直播推流流程 : 手機採集視頻 / 音頻數據 , 視頻數據使用 H.264 編碼 , 音頻數據使用 AAC 編碼 , 最後將音視頻數據都打包到 RTMP 數據包中 , 使用 RTMP 協議上傳到 RTMP 服務器中 ;


Android 端中主要完成手機端採集視頻數據操作 , 並將視頻數據傳遞給 JNI , 在 NDK 中使用 x264 將圖像轉爲 H.264 格式的視頻 , 最後將 H.264 格式的視頻打包到 RTMP 數據包中 , 上傳到 RTMP 服務器中 ;


本篇博客中介紹如下內容 , Java 層將 Camera 採集的 NV21 格式的數據傳入 JNI 層 ;





一、 NV21 數據傳入 Native 層



1 . Camera 採集 NV21 格式圖像數據 :


① 接口註冊 : Android 中使用 Camera 採集圖像數據 , 啓動 Camera 時會爲其註冊一個回調接口 PreviewCallback ;

② 數據回調 : 當 Camera 採集到圖像數據後 , 就會回調該 PreviewCallback 接口中的 onPreviewFrame 方法 , 在該方法中可以獲取 Camera 採集到的圖像數據 , 該圖像數據是 NV21 格式的 ;



2 . Java 中定義的方法 : Java 中傳遞的參數類型爲 byte[] , 字節數組類型 ;

public native void native_encodeCameraData(byte[] data);

3 . JNI 中對應的方法 : JNI 中接收的方法是 jbyteArray data 類型的 ;

extern "C"
JNIEXPORT void JNICALL
Java_kim_hsl_rtmp_LivePusher_native_1encodeCameraData(JNIEnv *env, jobject thiz, jbyteArray data) {
}




二、 jbyte * 數據類型 ( Java 中的 byte[] 數組傳入 JNI 處理方式 )



1 . 類型轉換 :


① jbyteArray 類型說明 : jbyteArray 類型在 C++ 中是無法使用的 , 必須轉成可以使用的數據類型, jbyteArray 就是 Java 類型的字節數組 , 可以轉爲 jbyte 數組 ;

② jbyteArray 轉爲 jbyte * : 調用 JNIEnv 結構體的 GetByteArrayElements 方法 , 可以將 jbyteArray 類型數據轉爲 jbyte * 類型 ;

    // 將 Java 層的 byte 數組類型 jbyteArray 轉爲 jbyte* 指針類型
    // 注意這是局部引用變量, 不能跨線程, 跨方法調用, 需要將其存放在堆內存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);


2 . jbyte 類型 : 在 jni.h 中 , 定義了 Java 中的 byte 類型 jbyte 類型 , 實際上是 C/C++ 中的 int8_t 數據類型 ;

typedef int8_t   jbyte;    /* signed 8 bits */

3 . x264 編碼方法接收的數據類型 : jbyte 類型本質就是 int8_t 類型 , 直接將 jbyte* dataFromJava , 代表了 jbyte 類型的數組 , 可以將該指針傳入 encodeCameraData 方法 ; jbyte* 類型等同於 int8_t * 類型

void encodeCameraData(int8_t *data)




三、 局部引用處理



1 . 局部引用處理 :


① 局部引用 : 參數中的 jbyte* dataFromJava , 以及轉換後的 jbyte* dataFromJava 數據 , 都是局部引用 ;

② 局部引用特性 : 局部引用變量 , 不能跨線程 , 跨方法調用 , 超出作用域後立刻失效 , 如果要使用該數據 , 需要將其存放在堆內存中 ;

③ 回收內存 : 局部引用要在作用域結束前主動回收內存 , 不要等系統自動回收 , 避免不必要的內存抖動 ;

    // 將 Java 層的 byte 數組類型 jbyteArray 轉爲 jbyte* 指針類型
    // 注意這是局部引用變量, 不能跨線程, 跨方法調用, 需要將其存放在堆內存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);

    // 釋放局部引用變量
    env->ReleaseByteArrayElements(data, dataFromJava, 0);


2 . 局部引用 , 全局引用 , 弱全局引用處理參考 :






四、 x264 編碼過程中的線程互斥



線程互斥說明 :

① x264 編碼與 x264 參數設置 :x264 編碼的過程中 , 一定要與 x264 參數設置進行互斥 ;

② 參數修改 : 編碼的整個過程中 , x264 的參數不能改變 , 如編碼圖像的寬度 , 高度 , 視頻的幀率 , 碼率 , 改變任意一個值 , 都會導致不可預知的風險 ;

③ 場景舉例 : 在 x264 編碼過程中 , 突然橫豎屏切換 , 這時候會激活 x264 參數設置選項 , 如果此時正在編碼 , 會出錯 ;



2 . 互斥鎖管理 : 導入包 #include <pthread.h> ;


① 聲明互斥鎖 : 使用前需要在成員變量中聲明互斥鎖 ;

    /**
     * 互斥鎖
     * 數據編碼時, 可能會重新設置視頻編碼參數 setVideoEncoderParameters, 如橫豎屏切換, 改變了大小
     * setVideoEncoderParameters 操作線程, 需要與編碼操作互斥
     */
    pthread_mutex_t mMutex;

② 初始化互斥鎖 : 構造函數中初始化互斥鎖 ;

    // 初始化互斥鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_init(&mMutex, 0);

③ 銷燬互斥鎖 : 析構函數中回收互斥鎖 ;

    // 銷燬互斥鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_destroy(&mMutex);

④ 使用互斥鎖 : 設置參數時需要加鎖 , 數據編碼時需要加鎖 ;

    // 加鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_lock(&mMutex);

	// 執行需要互斥的操作

    // 解鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_unlock(&mMutex);




五、 x264 視頻數據編碼代碼示例



1 . Java 中定義的 native 方法 :

    /**
     * 執行數據編碼操作
     * @param data
     */
    public native void native_encodeCameraData(byte[] data);


2 . NV21 數據傳遞過程 :

extern "C"
JNIEXPORT void JNICALL
Java_kim_hsl_rtmp_LivePusher_native_1encodeCameraData(JNIEnv *env, jobject thiz, jbyteArray data) {
    if(!vedioChannel || !readyForPush){
        // 如果 vedioChannel 還沒有進行初始化, 推流沒有準備好了, 直接 return
        __android_log_print(ANDROID_LOG_INFO, "RTMP", "還沒有準備完畢, 稍後再嘗試調用該方法");
        return;
    }

    // 將 Java 層的 byte 數組類型 jbyteArray 轉爲 jbyte* 指針類型
    // 注意這是局部引用變量, 不能跨線程, 跨方法調用, 需要將其存放在堆內存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);

    // jbyte 是 int8_t 類型的, 因此這裏我們將 encodeCameraData 的參數設置成 int8_t* 類型
    // typedef int8_t   jbyte;    /* signed 8 bits */
    vedioChannel->encodeCameraData(dataFromJava);

    // 釋放局部引用變量
    env->ReleaseByteArrayElements(data, dataFromJava, 0);
}


3 . x264 編碼器將 NV21 圖像數據編碼爲 H.264 代碼 :

/**
 * 視頻數據編碼
 * 接收 int8_t 類型的原因是, 這裏處理的是 jbyte* 類型參數
 * jbyte 類型就是 int8_t 類型
 * @param data 視頻數據指針
 */
void VedioChannel::encodeCameraData(int8_t *data) {
    // 加鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_lock(&mMutex);

	// 後續還有操作, 本博客中暫時省略

    // 解鎖, 設置視頻編碼參數 與 編碼互斥
    pthread_mutex_unlock(&mMutex);
}
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章