Instrumentaion 是Android自帶的一個測試框架，是很多其它測試框架的基礎，可以在同進程中加載被測組件。它有很多豐富的高層封裝，使用者可以使用基于instrumentation的其他框架，避免過多二次開發(fā)量。但Instrumentation不支持跨應用，導致基于instrumentation的框架都繼承了這個缺點。
https://github.com/robotiumtech/robotium
Robotium是基于Instrumentation框架開發(fā)的一個更強的框架. 對常用的操作進行了易用性的封裝. 用于開發(fā)功能性、系統(tǒng)和驗收測試場景。它運行時綁定到GUI組件。它安裝了一個測試用例套件作為在Android設備或仿真器上的應用程序，并提供用于執(zhí)行測試的真實環(huán)境。
優(yōu)點： 容易在最短的時間內編寫測試腳本，易用性高。自動跟隨當前activity。 由于運行時綁定到GUI組件，所以相比Appium，它的測試執(zhí)行更快，更強大。 不訪問代碼或不了解app實現(xiàn)，也可以工作。 支持Activities、Dialogs、Toasts、Menus、Context Menus和其他Android SDK控件。
缺點： 不能處理flash和web組件。在舊設備上會變得很慢。 由于不支持iOS設備,當自動化測試同時覆蓋 android與iOS的情況時，測試會被中斷。沒有內置的記錄和回放功能.，使用記錄功能需要 TestDroid 和 Robotium Recorder 這樣的收費工具。
https://google.github.io/android-testing-support-library/docs/uiautomator/
UIAutomator是由谷歌提供的測試框架，它提供了原生Android app和游戲的高級UI測試。這是一個包含API的Java庫，用來創(chuàng)建功能性UI測試，還有運行測試的執(zhí)行引擎。該庫自帶Android SDK。
優(yōu)點：它在運行訪問不同的進程時，會給JUnit測試案例特權。庫由谷歌社區(qū)支持和維護。
缺點：僅支持android4.1（API level 16）及以上。 不支持腳本記錄。 支持的重點是Java。 你不能獲得當前活動或儀表化。目前不支持web視圖。 庫僅支持使用Java，因此很難和使用Ruby的cucumber混合。如想支持BDD框架，建議使用Java自己的BDD框架，例如Jbehave。
https://google.github.io/android-testing-support-library/docs/espresso/index.html
Espresso是Google的開源自動化測試框架。相對于Robotium和UIAutomator，它的特點是規(guī)模更小、更簡潔、API更加精確、編寫測試代碼簡單、容易快速上手。因為是基于Instrumentation的，所以不能跨App。
Calabash是一個適用于iOS和Android開發(fā)者的跨平臺app測試框架，可用來測試屏幕截圖、手勢和實際功能代碼。Calabash開源免費并支持Cucumber語言，Cucumber能讓你用自然的英語語言表述app的行為，實現(xiàn)BDD（Behavior Driven Development，行為驅動開發(fā)）。 Cucumber中的所有語句使用Ruby定義。
優(yōu)點： 有大型社區(qū)支持。列表項 簡單，類似英語表述的測試語句支持在屏幕上的所有動作，如滑動，縮放，旋轉，敲擊等。 跨平臺開發(fā)支持（同樣的代碼在Android和iOS設備中都適用）。
缺點：測試步驟失敗后，將跳過所有的后續(xù)步驟，這可能會導致錯過更嚴重的產品問題。測試耗費時間，因為它總是默認先安裝app。 需要Calabash框架安裝在ios的ipa文件中， 因此測試人員必須要有iOS的app源碼。 除了Ruby，對其他語言不友好。
Appium是一個開源的、跨平臺的自動化測試工具，支持IOS、Android和FirefoxOS平臺。 通過Appium，開發(fā)者無需重新編譯app或者做任何調整，就可以測試移動應用，可以使測試代碼訪問后端API和數(shù)據庫。它是通過驅動蘋果的UIAutomation和Android的UiAutomator框架來實現(xiàn)的雙平臺支持，同時綁定了Selenium WebDriver用于老的Android平臺測試。開發(fā)者可以使用WebDriver兼容的任何語言編寫測試腳本，如Java， OC， JS， PHP，Python， Ruby， C#，Clojure 和Perl語言。
https://www.gitbook.com/book/lihuazhang/selendroid/details
Selendroid 是一個基于Instrumentation的一個框架. 完全兼容Webdriver協(xié)議。 Selendroid 可以在模擬器和實際設備上使用，也可以集成網格節(jié)點作為縮放和并行測試。
Robolectric 是一款Android單元測試框架，但它并不依賴于Android提供的測試功能，它通過實現(xiàn)一套JVM能運行的Android代碼，然后在unit test運行的時候去截取android相關的代碼調用，然后轉到Robolectric實現(xiàn)的代碼（shadow objects）去執(zhí)行這個調用的過程。因此它不像模擬器或設備需要dexing（Android dex編譯器將類文件編譯成Android設備上的Dalvik VM使用的格式）、打包、部署和運行的過程，大大減少了測試執(zhí)行的時間。Pivotal實驗室聲稱使用Robolectric可以在28秒內運行1047個測試。
除了實現(xiàn)Android里面的類的現(xiàn)有接口，Robolectric還給每個Shadow類額外增加了很多接口，可以讀取對應的Android類的一些狀態(tài)。比如它為ImageView提供了getImageResourceId()方法，測試者可以通過getImageResourceId()接口來確定是不是正確顯示了期望的Image。
RoboSpock是一個開源的Android測試框架，它提供了簡單的編寫B(tài)DD行為驅動開發(fā)規(guī)范的方法，使用Groovy語言，支持Google Guice庫。RoboSpock合并了Robolectic和Spock的功能。
Cafe是百度出品的一個基于Robotium的測試框架，它提供了跨進程的測試解決方案。
http://code.taobao.org/p/athrun/wiki/index/
Athrun 是taobao出的一個移動測試框架，它支持Android和IOS。Android部分是基于Instrumentation，在Android原有的ActivityInstrumentationTestCase2類基礎上進行了擴展，提供了一整套面向對象的API。 IOS上的自動化測試包括注入式自動化框架AppFramework，和基于錄制的自動化框架Athrun_IOS, InstrumentDriver。
其他自動化框架還有應用于穩(wěn)定性測試的Monkey系列（Monkey, Monkeyrunner, MonkeyTalk）, 其中MonkeyTalk 支持iOS 和 Android，它可以為應用進行真實的，功能性交互測試。MonkeyTalk 提供簡單的 'smoke tests'，復雜數(shù)據驅動的測試套件。MonkeyTalk 支持原生，移動和混合應用，真實設備或者模擬器。MonkeyTalk 使得場景捕獲非常容易，可以記錄高級別，可讀的測試腳本。還有適用于瀏覽器自動測試的Selenium WebDriver，可以真實測試用戶行為，用戶交互如觸摸、手指滾動、長按等，還支持HTML5的一些特性，比如本地存儲、session存儲、應用緩存等。而CTS則是應用于兼容性測試的自動化工具， CTS大部分是基于Junit和儀表盤技術編寫的。還擴展了自動化測試過程，可以自動執(zhí)行用例，自動收集和匯總測試結果。CTS采用XML配置文件的方式將這些測試用例分組成多個測試計劃（plan）,第三方也可以創(chuàng)建自己的plan。
各個測試框架的繼承關系如下,繼承關系決定了有些框架的先天優(yōu)勢或先天不足. 在實際應用中可以集成多個框架。
基于Instrumentation的測試框架，比如Espresso，Robotium，Selendroid等，都不能支持跨APP使用。 如自動化測試中有跨APP操作，可以結合UiAutomator實現(xiàn)。
支持BDD的自動化框架比較少，可以在calabash 和 RoboSpock及Jbehave之間選擇。
若想同時支持Android和IOS，可選框架有Appium和Calabash，或AthRun。
若為單元測試選擇框架，可選Instrumentation或Robolectric。Robolectric實現(xiàn)了shadow object 類，耗時短。
XCTest是蘋果在iOS 7和Xcode5引入的一個簡單而強大的測試框架，它的測試編寫起來非常簡單，并且遵循xUnit風格。XCTest的優(yōu)點是與Xcode深度集成，有專門的Test導航欄，但因為受限于官方測試API，因此功能不是很豐富。
UIAutomation是蘋果提供的UI自動化測試框架，使用Javascript編寫?；赨IAutomation有擴展型的工具框架和驅動型的框架。擴展型框架以JavaScript擴展庫方法提供了很多好用js工具，注入式的框架通常會提供一些Lib或者是Framework，要求測試人員在待測應用的代碼工程中導入這些內容，框架可以通過他們完成對app的驅動。驅動型UI Automation 在自動化測試底層使用了UI Automation庫，通過TCP通信的方式驅動UI Automation來完成自動化測試，通過這種方式，編輯腳本的語言不再局限于JavaScript。
http://www.testingwithfrank.com/
Frank是iOS平臺一款非常受歡迎的app測試框架，它使用Cucumber語言來編寫測試用例， Frank包含一個強大的“app inspector”--Symbiote，可以用它來獲得運行中app的詳細信息，便于開發(fā)者將來進行測試回顧。 它允許使用Cucumber編寫結構化英語句子的測試場景。 Frank要求測試時在應用程序內部編譯，這意味著對源代碼的改變是強制性的。操作方式為使用Cucumber和JSON組合命令，將命令發(fā)送到在本地應用程序內部運行的服務器上，并利用UISpec運行命令。
優(yōu)點： 測試場景是在Cucumber的幫助下，用可理解的英語句子寫的。強大的Symbiote實時檢查工具。 活躍的社區(qū)支持。 不斷擴大中的庫。
缺點：對手勢的支持有限。 在設備上運行測試有點難。 修改配置文件需要在實際設備上運行。 記錄功能不可用。
http://www.oschina.net/translate/ios-ui-testing-with-kif
KIF是Keep It Functional項目的縮寫，是一款iOS app功能性測試框架，使用Objective-C語言編寫，對蘋果開發(fā)者來說非常容易上手，更是一款開發(fā)者廣為推薦的測試工具。KIF tester使用私有API來了解App中的視圖層級。但缺點是運行較慢。
詳見Calabash-android 描述。
http://inkling.github.io/Subliminal/
Subliminal是另一款與XCTest集成的框架。與KIF不同的是，它基于UIAutomation編寫，旨在對開發(fā)者隱藏UIAutomation中一些復雜的細節(jié)。
https://github.com/kiwi-bdd/Kiwi/wiki/Getting-Started-with-Kiwi-2.0
Kiwi是對XCTest的一個完整替代，使用xSpec風格編寫測試。 Kiwi帶有自己的一套工具集，包括expectations、mocks、stubs，甚至還支持異步測試。它是一個適用于iOS 開發(fā)的Behavior Driven Development（BDD）庫，優(yōu)點在于其簡潔的接口和可用性，易于設置和使用，非常適合新手開發(fā)者。Kiwi使用Objective-C語言編寫，易于IOS開發(fā)人員上手。
IOS自動化測試框架繼承關系如下. XCTest與 Xcode 的 IDE 直接集成,使用簡單, 但其不支持stub和mock, 所以單使用XCTest框架的較少. Kiwi是一個iOS平臺十分好用的行為驅動開發(fā)BDD的測試框架，有著非常漂亮的語法，可以寫出結構性強，非常容易讀懂的測試。UI Automation是Apple官方提供的UI自動化測試的解決方法,但接口不夠豐富。
KIF、Frank、Calabash都是通過使用代碼的形式來模擬事件觸發(fā)，使得被測代碼就像是由用戶行為所觸發(fā)的一樣。但這樣的代價是插入一個額外層的復雜度。
IOS測試框架中支持BDD的有calabash 和Kiwi。
可選用的單元測試框架有Kiwi，Specta，Quick等，而KIF，Subliminal和calabash更適用于UI級驗收測試。
Sikuli 是由 MIT 的研究團隊發(fā)布的新型圖形化編程技術。它以圖像檢索技術為基礎，提供了一套基于Python 的腳本語言以及集成開發(fā)環(huán)境。使用者可利用屏幕截圖直接引用 GUI 元素進行編程，完成交互操作。Sikuli的腳本編寫遵循 Python語法規(guī)范。由于 Sikuli基于 Python，其核心代碼由 Java 編寫，可在用戶自定義的 Java 工程中將其作為 Java 標準類庫進行引用。
它的腳本是這樣式的：
Sikuli將 GUI 對象的屏幕截圖作為函數(shù)的參數(shù)直接引用，整個代碼的語義清晰明了，可讀性極強。腳本執(zhí)行過程中，利用圖像檢索算法分析匹配當前屏幕中對應的控件，并對其應用相應的鼠標或鍵盤操作。這種方式使得我們在腳本編寫時，既無需關心繁瑣的應用程序相關 API 亦不用獲取 Web 內容對象。
缺點：
1、僅支持windows， MACOSX，和Linux平臺，還不支持移動平臺。
2、依賴屏幕截圖，使得1）在不同平臺，不同分辨率，不同操作系統(tǒng)上需要維護一套圖形源文件，不利于跨平臺移植；2）若出現(xiàn)程序邏輯外的界面遮擋，則影響程序執(zhí)行。
但作為現(xiàn)有自動化測試工具的補充，尤其是對無法獲取API的工程，比如flash 動畫， 是非常有效的。
https://www.utest.com/articles/utest-launches-appgrader-for-android
雖然AppGrader不是一流的測試框架，但也有所長。它可以幫開發(fā)者將自己的應用與其他眾多同類型應用進行多方面比較，比如圖形和功能。通過對比結果，開發(fā)者可以更有針對性地提高和改進自己的應用。目前AppGrader僅支持Android平臺。
FlipTest是一個優(yōu)秀的iOS app A/B測試框架，可為app挑選最佳的UI。FlipTest會基于外觀和易用性等眾多因素返回測試結果，進而幫開發(fā)者解決UI問題。用FlipTest進行測試無需向App Store重新提交應用或者大幅更改代碼，只需要在app中添加一行代碼，節(jié)省了不少時間。
你工作中采用的框架是哪個？為什么選用它？
聯(lián)系客服
