從Android手機的搶紅包插件說起

前語

最近,Android手機上的手機管家更新了新版本,提供了紅包鬧鐘功能,只要有微信紅包或者QQ紅包,就會自動提醒。恰逢最近又在做UI自動化的工作,使用到UI Automator框架。幾行代碼,就可以讓手機自動完成某些操作,很有意思,今天就來扒一扒這背後的原理。

UI Automator

首先,官方文檔鎮樓:https://developer.android.com/training/testing/ui-automator

傳統的手工測試,我們需要點擊一些控件元素,來查看輸出的結果是否符合預期。比如在登錄界面,輸入正確的用戶名和密碼,點擊登錄按鈕後,就可以正常登錄。

如果這些操作,每一次都需要手工執行的話,是需要大量的人力成本的,比如手機QQ安卓端, 手工用例有上萬條。所以就需要大力推廣自動化測試。

UI自動化作爲測試金字塔的最頂層,承擔了端到端的需求迴歸與灰度驗證任務,其重要性不言而喻。

測試金字塔

UI Automator作爲一款Google谷歌推出的,用於UI自動化測試的工具,有着優秀的API與社區文檔。也是目前主流的Android自動化測試框架。它提供了一系列用於獲取手機上頁面控件元素和操作元素的方法,非常方便。

注意UI Automator測試框架是基於instrumentation的API,運行在Android JunitRunner 之上,同時UI Automator Test只運行在 Android 4.3(API level 18)以上版本

從一次搶紅包說起

想想我們平時搶紅包的流程是什麼樣的呢?

假如你現在正在刷劇,這時候通知欄提醒你微信有紅包了,於是你點擊通知欄的消息,進入了微信頁面,找到了紅包,再點擊拆紅包的按鈕,小手一抖,幾毛到手。

這麼一想,其實這些步驟完全是一個體力活,要是有個機器人能自動搶就好了!

這個機器人的背後就是AccessibilityService,當然它的具體作用我們稍後再講。

按照我們的現有的邏輯,自動搶紅包大致分爲以下幾個步驟:

  1. 識別獲取通知欄的微信紅包的通知事件
  2. 點擊通知欄的消息
  3. 獲取紅包的消息
  4. 點擊按鈕拆紅包

這裏面最最重要的兩個步驟就是識別,操作。接下來我們侃侃這兩步。

怎麼識別頁面控件元素?

首先,我們先來認識一下UI Automator viewer這個工具,位於<android-sdk>/tools/bin目錄下,他可以很方便地掃描和分析 Android 設備上當前顯示的界面組件,展示一棵完整的控件樹,與某一個葉子節點(控件元素)的屬性。

UI Automator view工具

從上圖我們可以看到,頁面的一個登錄按鈕元素,有自己的text屬性,resource-id屬性,content-desc屬性等等。

UI Automator中,存在uiDevice類,可以通過findObject方法,查看到這些控件元素。

UiObject2 login_btn = uiDevice.findObject(By.desc("登錄"));

現在我們深入findObject方法,

    public UiObject2 findObject(BySelector selector) {
        // 這裏返回匹配選擇器的第一個節點,如果沒有找到匹配的話,就返回null
        AccessibilityNodeInfo node = ByMatcher.findMatch(this, selector, getWindowRoots());
        return node != null ? new UiObject2(this, selector, node) : null;
    }

可以看到,這裏傳入了一個選擇器selector,然後在ByMatcherfindMatch方法中查詢,如果找到了,就返回一個AccessibilityNodeInfo的node,如果沒有找到就返回null。

首先看ByMatcher是什麼東東?這是一個實用工具類,通過它的方法,我們可以在一個樹形結構中搜索到匹配selector的節點。

findMatch方法很簡單,就是一個從根節點開始搜索的樹型搜索方法,不用多說。

AccessibilityNodeInfo是什麼呢?這相當於一個節點,在AccessibilityService的角度來看,這就是一個可訪問到的控件節點。

那這麼來看,findMatch的第三個參數,就是傳入的控件樹的根節點了嗎?我們深入看一下這裏的getWindowRoots方法的關鍵代碼,

 /** 這裏返回活動窗口容器的root節點的列表 */
    AccessibilityNodeInfo[] getWindowRoots() {
        // 等待線程空閒後再執行
        waitForIdle();
        // 初始化一個root節點的集合
        Set<AccessibilityNodeInfo> roots = new HashSet();

        // 通過UiAutomation獲取當前最底部的根窗口容器的root節點
        AccessibilityNodeInfo activeRoot = getUiAutomation().getRootInActiveWindow();  // 這裏使用UiAutomation的方法
        if (activeRoot != null) {
            roots.add(activeRoot);
        }

        // 多窗口容器的搜索
        if (UiDevice.API_LEVEL_ACTUAL >= Build.VERSION_CODES.LOLLIPOP) {
            for (AccessibilityWindowInfo window : getUiAutomation().getWindows()) { // 這裏使用UiAutomation的方法
                AccessibilityNodeInfo root = window.getRoot();
                …………
                roots.add(root);
            }
        }
        return roots.toArray(new AccessibilityNodeInfo[roots.size()]);
    }

這裏要提一下, UiAutomation是Google在Android4.3的時候,發佈的一個自動化框架,它提供了與系統底層交互的能力。

再往下,我們看看UiAutomationgetWindows方法的關鍵代碼:

    public List<AccessibilityWindowInfo> getWindows() {
      ……
        return AccessibilityInteractionClient.getInstance()
                .getWindows(connectionId);
    }

這裏獲取了AccessibilityInteractionClient的實例,然後返回了client的getWindows方法結果。然後再看一下這個getWindows方法的關鍵代碼,

    public List<AccessibilityWindowInfo> getWindows(int connectionId) {
            ……
            IAccessibilityServiceConnection connection = getConnection(connectionId);
            if (connection != null) {
                // 首先去查詢緩存,如果緩存是有的,直接返回
                List<AccessibilityWindowInfo> windows = sAccessibilityCache.getWindows();
                   ……
                    return windows;
                }
                ……
                 // 如果上面的緩存不存在,就調用connection.getWindows方法
                 windows = connection.getWindows();
                 ……
                if (windows != null) {
                    // 把上面獲取到的新的windows放置緩存,並返回
                    sAccessibilityCache.setWindows(windows);
                    return windows;
                }
            } 
             ……
    }

IAccessibilityServiceConnection開始,在IDE中就開始提示Cannot resolve symbol 'IAccessibilityServiceConnection',無法再跳轉追蹤了。這是因爲這個文件屬於aidl文件,這是Android中用於跨進程通信的接口文件,其具體源碼可以在GoogleSource上面看到,有興趣的同學可以去看一下:IAccessibilityServiceConnection.aidl。 這說明,到這裏,UI Automation進程開始了與AccessibilityService進程的通信。我們把當前的程序可以當做是客戶端,那麼Android系統服務就是服務端,從這裏開始,真正深入到Android系統的核心。在下面,就是Android Native的Library庫。

這裏,我們可以用時序圖總結一下:

獲取控件的時序圖

怎麼操作頁面頁面元素?

我們現在已經知道了UI Automator是怎麼識別控件的,那怎麼操作控件元素呢?比如實現控件的自動點擊。

我們還是從源碼開始入手。比如一個控件元素的點擊動作,在UiObject2類中,關鍵代碼如下:

    public void click() {
        mGestureController.performGesture(mGestures.click(getVisibleCenter()));
    }

首先,getVisibleCenter方法可以根據控件節點信息,也就是上面提到的AccessibilityNodeInfo,獲取到這個控件節點的中心座標點。然後把這個座標點傳給mGestureclick方法,這裏是爲了封裝點擊動作,最後交給mGestureController對象的performGesture方法去實施這個點擊動作。

對於mGestureclick方法,這個mGesture是一個構造工廠,它的click方法直接生成了一個PointerGesture對象,這個對象表示的是執行手勢操作時的動作。比如手勢的開始座標點,結束座標點,持續時間,移動方向,速度等等。

重點看一下mGestureController對象的performGesture方法,其關鍵代碼如下:

public void performGesture(PointerGesture ... gestures) {
          …………
         // 執行傳入的手勢操作動作
        MotionEvent event;   // 這個是關於運動事件
        for (……) {
                 …………
               // 初始化運動事件,並調用UI Automation的injectInputEvent注入事件,異步執行
                event = getMotionEvent(……);
                getDevice().getUiAutomation().injectInputEvent(event, true);
                …………
            }
          …………
        }
}

這裏可以看到事件的注入,也是通過UI Automation來完成的。看一下injectInputEvent方法的關鍵代碼,

    public boolean injectInputEvent(InputEvent event, boolean sync) {
        …………
        // 異步執行,這段代碼之前有關於鎖的操作
        return mUiAutomationConnection.injectInputEvent(event, sync);
        …………
    }

我們發現也是通過一個connection來執行操作的,這個connection對象對應的IUiAutomationConnection類,也屬於一個aidl文件。

這裏也放一個時序圖,

點擊事件的時序圖

AccessibilityService

AccessibilityService根據官方說明,是指開發者通過增加類似contentDescription的屬性,從而在不修改代碼的情況下,讓殘障人士能夠獲得使用體驗的優化,大家可以打開AccessibilityService來試一下,點擊區域,可以有語音或者觸摸的提示,幫助殘障人士使用App。

當然,現在國內,AccessibilityService已經被玩兒壞了,越來越多的App借用AccessibilityService來實現了一些其它功能,甚至是灰色產品。

在國內,通過AccessibilityService實現的功能包括免Root自動安裝,自動搶紅包,微信消息自動回覆等等黑科技。

當然也有一些惡意功能,比如軟件防卸載。當用戶想要卸載你的App的時候,一般會來到設置界面,找到你的App然後選擇卸載,那麼如果我們監控這個頁面,如果發現是自己的App,就直接退出,這樣不就無法卸載了嗎?是的,簡簡單單,但是背後的惡意卻讓人心寒。

使用AccessibilityService做自動化的步驟

大家看了上面的分析,可能對自動化有了一點興趣,其實歸納起來,步驟很簡單:

  1. 分析整個操作流程,拆解成關於每個控件的識別與操作。
  2. 利用uiautomatorviewer等工具,查看對應UI控件的屬性,進行唯一性識別
  3. 編寫代碼,查找到元素後,進行點擊等操作
  4. 兼容性處理

結語

大家經常說“面試造火箭,工作擰螺絲”。其實大家平時工作可能都是“擰擰螺絲”,但是站在個人職業發展角度來看,是不可取的。只有不斷挖深自己的技術護城河,才能提高個人的不可替代性。在“擰螺絲”的時候,我們不妨擡頭看看,整個“火箭”是的構造。

工作擰螺絲

參考

https://juejin.cn/post/6844903456809943053

https://developer.android.com/reference/android/app/UiAutomation

https://testerhome.com/topics/1887

https://blog.csdn.net/luoyanglizi/article/details/51980630

https://www.kancloud.cn/digest/uiautomatorpriciple/192698

Android層次結構

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章