Android5.1中surface和CpuConsumer下生產者和消費者間的處理框架簡述

前沿:

如果對SurfaceFlinger架構的工作原理較爲熟悉的話,本文閱讀起來會相對容易些。之所以撰寫本文是因爲在閱讀Camera HAL3的實現過程中大量的出現了類似與SurfaceFlinger的工作模式。本文將以CallbackProcessor模塊的爲入口,和大家進行分享。



1 Preview模塊Surface與SurfaceFlinger的基礎知識

    開發過Android Camera模塊的人,基本都應該熟悉實時採集的視頻如果要顯示到手機屏上,對應的Framework層就應該構建一個Surface對象,這對所有Android版本都是通用的。該Surface本質是一個在APP端的ANativeWindow,是需要從SurfaceFlinger端的Gralloc模塊獲取Buffer的,然後填充幀圖像數據並送顯示的過程。詳細內容可以參考之前的專欄我心所向之Android4.2關於SurfaceFlinger相關的內容。

    由於目前Android系統版本升級過快,在5.0以上的版本中SurfaceFlinger部分框架發生了變化(目前還沒有深入去研讀過),瞭解到的是:

  一方面他去掉了SurfaceTexture/SurfaceTextureClient等內容,增強了Surface的功能。

  另一方面BufferQueue的使用也更加簡單與明瞭,Producer與Consumer的關係也更加明確,BufferQueue不再是以前的消費者角色,轉而成爲ProducerBufferQueue和Consumer相互關聯的橋樑。

 此外,如果你在深入的話,會瞭解到Gralloc模塊中非framebuff的緩存管理與共享不在是那個Ashmem匿名共享內存,而是出現了一種新的內存管理機制/dev/ION/,後面會和大家分享他部分的工作機制。

對於SurfaceFlinger與Camera Preview Surface而言,ANativeWindow作爲兩者的共性負責管理和維護Buffer的創建與共享,在SurfaceFlinger端ANativeWindow創建buffer,在Surface側通過dequeuebuffer獲取buffer handle到本地進行共享,在填充完數據後通過queuebuffer告訴SurfaceFlinger當前buffer可用,這樣就形成了一個buffer生產與消費的關係,基於這種原理我們在Camera3Device中除了看到正常的Preview Surface之外還看到了其他模塊中出現了Surface的創建。


2 CallbackProcessor::updateStream() 創建Surface

  1. sp<IGraphicBufferProducer> producer;  
  2.     sp<IGraphicBufferConsumer> consumer;  
  3.     BufferQueue::createBufferQueue(&producer, &consumer);//BufferQueueProducer與BufferQueueConsumer  
  4.     mCallbackConsumer = new CpuConsumer(consumer, kCallbackHeapCount);  
  5.     mCallbackConsumer->setFrameAvailableListener(this);//當前CallbackProcessor繼承於CpuConsumer::FrameAvailableListener  
  6.     mCallbackConsumer->setName(String8("Camera2Client::CallbackConsumer"));  
  7.     mCallbackWindow = new Surface(producer);//用於queue操作,這裏直接進行本地的buffer操作  
上述代碼看上去很簡單,但就是他最終形成了一個bufferstream Product和Consumer的處理,這種方式也爲Camera2Client下出現多路stream,多路數據流存在奠定了基礎,下面我們來簡單的描述他的工作機制。


2.1 BufferQueue::createBufferQueue

  1. void BufferQueue::createBufferQueue(sp<IGraphicBufferProducer>* outProducer,  
  2.         sp<IGraphicBufferConsumer>* outConsumer,  
  3.         const sp<IGraphicBufferAlloc>& allocator) {  
  4.     LOG_ALWAYS_FATAL_IF(outProducer == NULL,  
  5.             "BufferQueue: outProducer must not be NULL");  
  6.     LOG_ALWAYS_FATAL_IF(outConsumer == NULL,  
  7.             "BufferQueue: outConsumer must not be NULL");  
  8.   
  9.     sp<BufferQueueCore> core(new BufferQueueCore(allocator));  
  10.     LOG_ALWAYS_FATAL_IF(core == NULL,  
  11.             "BufferQueue: failed to create BufferQueueCore");  
  12.   
  13.     sp<IGraphicBufferProducer> producer(new BufferQueueProducer(core));//本地Bn的BufferQueueProducer  
  14.     LOG_ALWAYS_FATAL_IF(producer == NULL,  
  15.             "BufferQueue: failed to create BufferQueueProducer");  
  16.   
  17.     sp<IGraphicBufferConsumer> consumer(new BufferQueueConsumer(core));//本地Bn的BufferQueueConsumer  
  18.     LOG_ALWAYS_FATAL_IF(consumer == NULL,  
  19.             "BufferQueue: failed to create BufferQueueConsumer");  
  20.   
  21.     *outProducer = producer;  
  22.     *outConsumer = consumer;  
  23. }  
當前Android5.1版本中可以看到BufferQueue已經改變了原先的角色,成爲了一個用於創建一組操作BufferQueue的接口,實現了BufferQueueProducer與BufferQueueConsumer的創建。更本質說現在BufferQueue的工作量已經很小,基本由Surface來全盤操作。這裏通過BufferQueueCore會將BufferQueueProducer與BufferQueueConsumer綁定在一起,BufferQueueProducer可以說是替代了舊版本Android4.2中的SurfaceTextureClient,而BufferQueueConsumer則直接是SurfaceTexture以及BufferQueue的替代者。下圖是在Android4.2.2中Surface和SurfaceFlinger間基於Bn/BpSurfaceTexture的多進程間buffer的queue操作機制。


2.2 CpuConsumer

    在2.1中本質上是創建了BufferQueueProducer和BufferQueueConsumer,一般是成對出現。

這個CpuConsumer的地位本質是和SurfaceFlinger是一樣的,主要角色就是來處理已經帶有幀數據的buffer塊,所以整個的處理機制都是類型的,其中兩者均爲繼承一個ConsumerBase類,用於實現對buffer塊的處理。

  1. CpuConsumer::CpuConsumer(const sp<IGraphicBufferConsumer>& bq,  
  2.         uint32_t maxLockedBuffers, bool controlledByApp) :  
  3.     ConsumerBase(bq, controlledByApp),  
  4.     mMaxLockedBuffers(maxLockedBuffers),  
  5.     mCurrentLockedBuffers(0)  
  6. {  
  7.     // Create tracking entries for locked buffers  
  8.     mAcquiredBuffers.insertAt(0, maxLockedBuffers);  
  9.   
  10.     mConsumer->setConsumerUsageBits(GRALLOC_USAGE_SW_READ_OFTEN);  
  11.     mConsumer->setMaxAcquiredBufferCount(maxLockedBuffers);  
  12. }  


2.3 mCallbackConsumer->setFrameAvailableListener(this)

    這裏所完成的過程是需要Consumer去將一個listener加入到Productor端去,便於在幀數據可用時,可以監聽到並告知Consumer去做數據的處理,Product需要在數據可用時觸發這個listener的onFrameAvailable,從而讓數據從Productor轉到Consumer則,數據處理應該是在同一進程的而不是跨進程。

    如果作爲Consumer如CPUConsumer沒有使用setFrameAvailableListener將自己加入到listener中去,會由ConsumerBase的接口onFrameAvailable來替代完成。

2.4 mCallbackWindow = new Surface(producer)
    這裏是建立一個Surface,也就是類型於Preview模式下創建的Surface,兩者的本質是一樣的。在Android5.1中,Surface已經擁有了絕對的控制權,Preview模式下的Surface是跨進程的和SF進行交互,故構造函數傳入的sp<IGraphicBufferProducer>& bufferProducer參數一般是一個BufferQueue中BufferQueueProducer側匿名的binder BpGraphicBufferProducer。對於CPUConsumer而言,兩者是處於同一進程之中的,Surface主要行駛如下的操作,而在舊版本中這些主要由SurfaceTextureClient來管理的:

  1. ANativeWindow::setSwapInterval  = hook_setSwapInterval;  
  2.  ANativeWindow::dequeueBuffer    = hook_dequeueBuffer;  
  3.  ANativeWindow::cancelBuffer     = hook_cancelBuffer;  
  4.  ANativeWindow::queueBuffer      = hook_queueBuffer;  
  5.  ANativeWindow::query            = hook_query;  
  6.  ANativeWindow::perform          = hook_perform;  
  7.   
  8.  ANativeWindow::dequeueBuffer_DEPRECATED = hook_dequeueBuffer_DEPRECATED;  
  9.  ANativeWindow::cancelBuffer_DEPRECATED  = hook_cancelBuffer_DEPRECATED;  
  10.  ANativeWindow::lockBuffer_DEPRECATED    = hook_lockBuffer_DEPRECATED;  
  11.  ANativeWindow::queueBuffer_DEPRECATED   = hook_queueBuffer_DEPRECATED;  
    一般對Buffer的操作都先是基於Struct ANativeWindow這個本地的窗口類來處理,再是通過hook到實際的surface再交由GraphicBufferProducer來完成的。


3 Android5.1下Surface的queuebuffer操作邏輯


對比上一圖可知,當前CPUConsumer模式下,從queuebuffer的處理過程來看更加體現出Productor和Consumer這種設計模式,整個架構代碼看起來也更明瞭,這也是谷歌不斷升級系統去冗存精的道理吧。整個用戶在調用這種邏輯是,只需幾句代碼就可以獲得對一個buffer塊的讀與寫的操作接口,具體後續在分析Camera HAL3的數據流時可以很深刻的看到。

    總的來說Surface在Camera3Device的架構下,與HAL3相組合是充當了消費者,與CPUCOnsumer或者Surfaceflinger來說就是生產者。或者說surface充當了buffer信息的傳輸與過渡。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章