如果有測試大佬發(fā)現(xiàn)內(nèi)容不對,歡迎指正,我會及時修改。
大多數(shù)的iOS App(沒有持續(xù)集成)迭代流程是這樣的
也就是說,測試是發(fā)布之前的最后一道關(guān)卡。如果bug不能在測試中發(fā)現(xiàn),那么bug就會抵達(dá)用戶,所以測試的完整性和可靠性十分重要。
目前,大多數(shù)App還停留在人工測試階段,人工測試投入的成本最低,能夠保證核心功能的使用,而且測試人員不需要會寫代碼。
但是,在很多測試場景下,人工測試的效率太低,容易出錯。舉兩個常見的例子:
一個App的核心功能,在每一次發(fā)布版本前的測試必定會跑一遍所有的測試用例,不管對應(yīng)的業(yè)務(wù)在當(dāng)前版本有沒有變化(天知道開發(fā)在做業(yè)務(wù)A的時候,對業(yè)務(wù)B有沒有影響),如果這次測出新的bug,測試人員在下一次發(fā)版測試中,又不得不做這些重復(fù)的工作。
開發(fā)在寫API請求相關(guān)代碼的時候沒有做數(shù)據(jù)容錯,測試在人工測試的時候都是正常的數(shù)據(jù),所以測試通過。上線了之后,后臺配置數(shù)據(jù)的時候出了點(diǎn)小問題,導(dǎo)致大面積崩潰,boom~。
然后,老板就要過來找你了
本文所講解的均是基于XCode 8.2.1,有些概念可能不適用于低版本的XCode
自動化測試
自動化測試就是寫一些測試代碼,用代碼代替人工去完成模塊和業(yè)務(wù)的測試。
其實不管是開發(fā)還是測試,如果你在不斷的做重復(fù)性工作的時候,就應(yīng)該問自己一個問題:是不是有更高效的辦法?
自動化測試有很多優(yōu)點(diǎn):
測試速度快,避免重復(fù)性的工作
避免regression,讓開發(fā)更有信心去修改和重構(gòu)代碼(個人認(rèn)為最大的優(yōu)點(diǎn))
具有一致性。
有了自動化測試,持續(xù)集成(CI)會變得更可靠。
迫使開發(fā)人員寫出更高質(zhì)量的代碼。(自動化測試不通過,代碼不允許合并)
當(dāng)然,自動化測試也有一些缺點(diǎn)。
開發(fā)和維護(hù)成本高。
不能完全替代人工測試。
無法完全保證測試的準(zhǔn)確性 - 讓代碼去判斷一段邏輯是否正確很容易,但是,讓代碼判斷一個控件顯示是否正確卻沒那么容易。
所以,在做自動化測試之前,首先要問自己幾個問題?
這個測試業(yè)務(wù)的變動是否頻繁?
這個測試業(yè)務(wù)是否屬于核心功能?
編寫測試代碼的成本有多少?
自動化測試能保證測試結(jié)果的準(zhǔn)確么?
通常,我們會選擇那些業(yè)務(wù)穩(wěn)定,需要頻繁測試的部分來編寫自動化測試腳本,其余的采用人工測試,人工測試仍然是iOS App開發(fā)中不可缺少的一部分。
測試種類
從是否接觸源代碼的角度來分類:測試分為黑盒和白盒(灰盒就是黑盒白盒結(jié)合,這里不做討論)。
白盒測試的時候,測試人員是可以直接接觸待測試App的源代碼的。白盒測試更多的是單元測試,測試人員針對各個單元進(jìn)行各種可能的輸入分析,然后測試其輸出。白盒測試的測試代碼通常由iOS開發(fā)編寫。
黑盒測試。黑盒測試的時候,測試人員不需要接觸源代碼。是從App層面對其行為以及UI的正確性進(jìn)行驗證,黑盒測試由iOS測試完成。
從業(yè)務(wù)的層次上來說,測試金字塔如圖:
而iOS測試通常只有以下兩個層次:
Unit,單元測試,保證每一個類能夠正常工作
UI,UI測試,也叫做集成測試,從業(yè)務(wù)層的角度保證各個業(yè)務(wù)可以正常工作。
框架選擇
啰里八嗦講的這么多,自動化測試的效率怎么樣,關(guān)鍵還是在測試框架上。那么,如何選擇測試框架呢?框架可以分為兩大類:XCode內(nèi)置的和三方庫。
選擇框架的時候有幾個方面要考慮
測試代碼編寫的成本
是否可調(diào)式
框架的穩(wěn)定性
測試報告(截圖,代碼覆蓋率,…)
WebView的支持(很多App都用到了H5)
自定義控件的測試
是否需要源代碼
能否需要連著電腦
是否支持CI(持續(xù)集成)
….
我們首先來看看XCode內(nèi)置的框架:XCTest。XCTest又可以分為兩部分:Unit Test 和 UI Test,分別對應(yīng)單元測試和UI測試。有一些三方的測試庫也是基于XCTest框架的,這個在后文會講到。由于是Apple官方提供的,所以這個框架會不斷完善。
成熟的三方框架通常提供了很多封裝好的有好的接口,筆者綜合對比了一些,推薦以下框架:
單元測試:
以下三個框架都是BDD(
Behavior-driven development) - 行為驅(qū)動開發(fā)。行為驅(qū)動開發(fā)簡單來說就是先定義行為,然后定義測試用例,接著再編寫代碼。 實踐中發(fā)現(xiàn),通常沒有那么多時間來先定義行為,不過BDD中的domain-specific language (DSL)能夠很好的描述用例的行為。
Kiwi 老牌測試框架
specta 另一個BDD優(yōu)秀框架
Quick 三個項目中Star最多,支持OC和Swift,優(yōu)先推薦。
UI測試
KIF 基于XCTest的測試框架,調(diào)用私有API來控制UI,測試用例用Objective C或Swift編寫。
appium 基于Client - Server的測試框架。App相當(dāng)于一個Server,測試代碼相當(dāng)于Client,通過發(fā)送JSON來操作APP,測試語言可以是任意的,支持android和iOS。
篇幅有限,本文會先介紹XCtest,接著三方的Unit框架會以Quick為例,UI Test框架側(cè)重分析KIF,appium僅僅做原理講解。
XCTest
對于XCTest來說,最后生成的是一個bundle。bundle是不能直接執(zhí)行的,必須依賴于一個宿主進(jìn)程。關(guān)于XCTest進(jìn)行單元測試的基礎(chǔ)(XCode的使用,異步測試,性能測試,代碼覆蓋率等),我在這篇文章里講解過,這里不再詳細(xì)講解。
iOS 單元測試之XCTest詳解 單元測試用例
比如,我有以下一個函數(shù):
1
2
3
//驗證一段Text是否有效。(不能以空字符開頭,不能為空)
- (BOOL)validText:(NSString *)text error:(NSError *__autoreleasing *)error{
}
那么,我該如何為這個函數(shù)編寫單元測試的代碼?通常,需要考慮以下用例:
輸入以空白字符或者換行符開頭的,error不為空,返回 NO
輸入正確的內(nèi)容,error為空,返回YES
輸入為nil,error不為空,返回 NO (邊界條件)
輸入為非NSString類型,驗證不通過,返回NO (錯誤輸入)
特殊輸入字符(標(biāo)點(diǎn)符號,非英文等等)
UI測試
UI測試是模擬用戶操作,進(jìn)而從業(yè)務(wù)處層面測試。關(guān)于XCTest的UI測試,建議看看WWDC 2015的這個視頻:
UI Testing in Xcode 關(guān)于UI測試,有幾個核心類需要掌握
XCUIApplication 測試應(yīng)用的代理
XCUIElement 一個UI上可見的視圖對象
XCUIElementQuery 查找XCUIElement
UI測試還有一個核心功能是UI Recording。選中一個UI測試用例,然后點(diǎn)擊圖中的小紅點(diǎn)既可以開始UI Recoding。你會發(fā)現(xiàn):
隨著點(diǎn)擊模擬器,自動合成了測試代碼。(通常自動合成代碼后,還需要手動的去調(diào)整)
在寫UI測試用例的時候要注意:測試行為而不是測試代碼。比如,我們測試這樣一個case
進(jìn)入Todo首頁,點(diǎn)擊add,進(jìn)入添加頁面,輸入文字,點(diǎn)擊save。
測試效果如下:
對應(yīng)測試代碼:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
- (void)testAddNewItems{
//獲取app代理
XCUIApplication *app = [[XCUIApplication alloc] init];
//找到第一個tabeview,就是我們想要的tableview
XCUIElement * table = [app.tables elementBoundByIndex:0];
//記錄下來添加之前的數(shù)量
NSInteger oldCount = table.cells.count;
//點(diǎn)擊Add
[app.navigationBars[@"ToDo"].buttons[@"Add"] tap];
//找到Textfield
XCUIElement *inputWhatYouWantTodoTextField = app.textFields[@"Input what you want todo"];
//點(diǎn)擊Textfield
[inputWhatYouWantTodoTextField tap];
//輸入字符
[inputWhatYouWantTodoTextField typeText:@"somethingtodo"];
//點(diǎn)擊保存
[app.navigationBars[@"Add"].buttons[@"Save"] tap];
//獲取當(dāng)前的數(shù)量
NSInteger newCount = table.cells.count;
//如果cells的數(shù)量加一,則認(rèn)為測試成功
XCTAssert(newCount == oldCount 1);
}
這里是通過前后tableview的row數(shù)量來斷言成功或者失敗。
等待
通常,在視圖切換的時候有轉(zhuǎn)場動畫,我們需要等待動畫結(jié)束,然后才能繼續(xù),否則query的時候很可能找不到我們想要的控件。
比如,如下代碼等待VC轉(zhuǎn)場結(jié)束,當(dāng)query只有一個table的時候,才繼續(xù)執(zhí)行后續(xù)的代碼。
1
2
3
4
5
[self expectationForPredicate:[NSPredicate predicateWithFormat:@"self.count = 1"]
evaluatedWithObject:app.tables
handler:nil];
[self waitForExpectationsWithTimeout:2.0 handler:nil];
//后續(xù)代碼....
Tips: 當(dāng)你的UI結(jié)構(gòu)比較復(fù)雜的時候,比如各種嵌套childViewController,使用XCUIElementQuery的代碼會很長,也不好維護(hù)。
另外,UI測試還會在每一步操作的時候截圖,方便對測試報告進(jìn)行驗證。
查看測試結(jié)果
使用基于XCTest的框架,可以在XCode的report navigator中查看測試結(jié)果。
其中:
Tests 用來查看詳細(xì)的測試過程
Coverage 用來查看代碼覆蓋率
Logs 用來查看測試的日志
點(diǎn)擊圖中的紅色框指向的圖標(biāo)可以看到每一步UI操作的截圖
除了利用XCode的GUI,還可以通過后文提到的命令行工具來測試,查看結(jié)果。
Stub/Mock
首先解釋兩個術(shù)語:
mock 表示一個模擬對象
stub 追蹤方法的調(diào)用,在方法調(diào)用的時候返回指定的值。
通常,如果你采用純存的XCTest,推薦采用OCMock來實現(xiàn)mock和stub,單元測試的三方庫通常已集成了stub和mock。
那么,如何使用mock呢?舉個官方的例子:
1
2
3
4
5
//mock一個NSUserDefaults對象
id userDefaultsMock = OCMClassMock([NSUserDefaults class]);
//在調(diào)用stringForKey的時候,返回
http://testurl OCMStub([userDefaultsMock
stringForKey:@"MyAppURLKey"]).andReturn(@"
http://testurl");
再比如,我們要測試打開其他App,那么如何判斷確實打開了其他App呢?
1
2
3
id app = OCMClassMock([UIApplication class]);
OCMStub([app sharedInstance]).andReturn(app);
OCMVerify([app openURL:url]
使用Stub可以讓我們很方便的實現(xiàn)這個。
關(guān)于OCMock的使用,推薦看看objc.io的這篇文章
置換測試: Mock, Stub 和其他 Quick
Quick是建立在
XCTestSuite上的框架,使用
let you = You(awesome: true)
expect{you.submittedAnIssue}.toEventually(beTruthy())
}
}
}
}
}
BDD的框架讓測試用例的目的更加明確,測試是否通過更加清晰。使用Quick,測試用例分為兩種:
單獨(dú)的用例 - 使用it來描述
it有兩個參數(shù),
行為描述
行為的測試代碼
比如,以下測試Dolphin行為,它具有行為is friendly和is smart
1
2
3
4
5
6
7
8
9
10
11
12
//Swift代碼
class DolphinSpec: QuickSpec {
override func spec() {
it("is friendly") {
expect(Dolphin().isFriendly).to(beTruthy())
}
it("is smart") {
expect(Dolphin().isSmart).to(beTruthy())
}
}
}
可以看到,BDD的核心是行為。也就是說,需要關(guān)注的是一個類提供哪些行為。
用例集合,用describe和context描述
比如,驗證dolphin的click行為的時候,我們需要兩個用例。一個是is loud,一個是has a high frequency,就可以用describe將用例組織起來。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
class DolphinSpec: QuickSpec {
override func spec() {
describe("a dolphin") {
describe("its click") {
it("is loud") {
let click = Dolphin().click()
expect(click.isLoud).to(beTruthy())
}
it("has a high frequency") {
let click = Dolphin().click()
expect(click.hasHighFrequency).to(beTruthy())
}
}
}
}
}
context可以指定用例的條件:
比如
1
2
3
4
5
6
7
describe("its click") {
context("when the dolphin is not near anything interesting") {
it("is only emitted once") {
expect(dolphin!.click().count).to(equal(1))
}
}
}
除了這些之外,Quick也支持一些切入點(diǎn),進(jìn)行測試前的配置:
beforeEach
afterEach
beforeAll
afterAll
beforeSuite
afterSuite
Nimble
由于Quick是基于XCTest,開發(fā)者當(dāng)然可以收使用斷言來定義測試用例成功或者失敗。Quick提供了一個更有好的Framework來進(jìn)行這種斷言:Nimble
比如,一個常見的XCTest斷言如下:
1
XCTAssertTrue(ConditionCode, "FailReason")11
在出錯的時候,會提示
1
XCAssertTrue failed, balabala
這時候,開發(fā)者要打個斷點(diǎn),查看下上下文,看看具體失敗的原因在哪。
使用Nimble后,斷言變成類似
1
2
3
4
expect(1 1).to(equal(2))
expect(3) > 2
expect("seahorse").to(contain("sea"))
expect(["Atlantic", "Pacific"]).toNot(contain("Mississippi"))
并且,出錯的時候,提示信息會帶著上下文的值信息,讓開發(fā)者更容易的找到錯誤。
讓你的代碼更容易單元測試
測試的準(zhǔn)確性和工作量很大程度上依賴于開發(fā)人員的代碼質(zhì)量。
通常,為了單元測試的準(zhǔn)確性,我們在寫函數(shù)(方法)的時候會借鑒一些函數(shù)式編程的思想。其中最重要的一個思想就是
pure function(純函數(shù))
何為Pure function?就是如果一個函數(shù)的輸入一樣,那么輸出一定一樣。
比如,這樣的一個函數(shù)就不是pure function。因為它依賴于外部變量value的值。
1
2
3
4
5
6
static NSInteger value = 0;
- (NSInteger)function_1{
value = value 1;
return value;
}
而這個函數(shù)就是pure function,因為給定輸入,輸出一定一致。
1
2
3
4
- (NSInteger)function_2:(NSInteger)base{
NSInteger value = base 1;
return value;
}
所以,如果你寫了一個沒有參數(shù),或者沒有返回值的方法,那么你要小心了,很可能這個方法很難測試。
關(guān)于MVC
在良好的MVC架構(gòu)的App中,
View只做純粹的展示型工作,把用戶交互通過各種方式傳遞到外部
Model只做數(shù)據(jù)存儲類工作
Controller作為View和Model的樞紐,往往要和很多View和Model進(jìn)行交互,也是自動化包括代碼維護(hù)的痛點(diǎn)。
所以,對Controller瘦身是iOS架構(gòu)中比較重要的一環(huán),一些通用的技巧包括:
邏輯抽離:
網(wǎng)絡(luò)請求獨(dú)立??梢悦總€網(wǎng)絡(luò)請求以Command模式封裝成一個對象,不要直接在Controller調(diào)用AFNetworking。
數(shù)據(jù)存儲獨(dú)立。建立獨(dú)立的Store類,用來做數(shù)據(jù)持久化和緩存。
共有數(shù)據(jù)服務(wù)化(協(xié)議)。比如登錄狀態(tài)等等,通過服務(wù)去訪問,這樣服務(wù)提供者之需要處理服務(wù)的質(zhì)量,服務(wù)使用者則信任服務(wù)提供者的結(jié)果。
Controller與View解耦合
建立ViewModel層,這樣Controller只需要和ViewModel進(jìn)行交互。
建立UIView子類作為容器,將一些View放到容器后再把容器作為SubView添加到Controller里
建立可復(fù)用的Layout層,不管是AutoLayout還是手動布局。
Controller與Controller解耦合
建立頁面路由。每一個界面都抽象為一個URL,跳轉(zhuǎn)僅僅通過Intent或者URL跳轉(zhuǎn),這樣兩個Controller完全獨(dú)立。
如果你的App用
Swift開發(fā),那么面向協(xié)議編程和不可變的值類型會讓你的代碼更容易測試。
當(dāng)然,iOS組建化對自動化測試的幫助也很大,因為不管是基礎(chǔ)組件還是業(yè)務(wù)組件,都可以獨(dú)立測試。組建化又是一個很大的課題,這里不深入講解了。
KIF
KIF的全稱是Keep it functional。它是一個建立在XCTest的UI測試框架,通過accessibility來定位具體的控件,再利用私有的API來操作UI。由于是建立在XCTest上的,所以你可以完美的借助XCode的測試相關(guān)工具(包括命令行腳本)。
> KIF是個人非常推薦的一個框架,簡單易用。
使用KIF框架強(qiáng)制要求你的代碼支持accessibility。如果你之前沒接觸過,可以看看Apple的文檔
Accessibility Programming Guide for iOS 簡單來說,accessibility能夠讓視覺障礙人士使用你的App。每一個控件都有一個描述AccessibilityLabel。在開啟VoiceOver的時候,點(diǎn)擊控件就可以選中并且聽到對應(yīng)的描述。
通常UIKit的控件是支持accessibility的,自定定義控件可以通過代碼或者Storyboard上設(shè)置。
在Storyboard上設(shè)置:
上面的通過Runtime Attributes設(shè)置(KVC)
下面的通過GUI來設(shè)置
通過代碼設(shè)置:
1
2
3
[alert setAccessibilityLabel:@"Label"];
[alert setAccessibilityValue:@"Value"];
[alert setAccessibilityTraits:UIAccessibilityTraitButton];
如果你有些Accessibility的經(jīng)驗,那么你肯定知道,像TableView的這種不應(yīng)該支持VoiceOver的。我們可以用條件編譯來只對測試Target進(jìn)行設(shè)置:
1
2
3
4
5
6
7
#ifdef DEBUG
[tableView setAccessibilityValue:@"Main List Table"];
#endif
#ifdef KIF_TARGET (這個值需要在build settings里設(shè)置)
[tableView setAccessibilityValue:@"Main List Table"];
#endif
使用KIF主要有兩個核心類:
KIFTestCase XCTestCase的子類
KIFUITestActor 控制UI,常見的三種是:點(diǎn)擊一個View,向一個View輸入內(nèi)容,等待一個View的出現(xiàn)
我們用KIF來測試添加一個新的ToDo
1
2
3
4
5
6
7
- (void)testAddANewItem{
[tester tapViewWithAccessibilityLabel:@"Add"];
[tester enterText:@"Create a test to do item" intoViewWithAccessibilityLabel:@"Input what you want todo"];
[tester tapViewWithAccessibilityLabel:@"Save"];
[tester waitForTimeInterval:0.2];
[tester waitForViewWithAccessibilityLabel:@"Create a test to do item"];
}
命令行
自動化測試中,命令行工具可以facebook的開源項目:
xctool 這是一個基于xcodebuild命令的擴(kuò)展,在iOS自動化測試和持續(xù)集成領(lǐng)域很有用,而且它支持-parallelize并行測試多個bundle,大大提高測試效率。
安裝XCTool,
1
brew install xctool11
使用
1
2
3
4
5
path/to/xctool.sh \
-workspace YourWorkspace.xcworkspace \
-scheme YourScheme \
-reporter plain:/path/to/plain-output.txt \
run-test
并且,xctool對于持續(xù)集成很有用,iOS常用的持續(xù)集成的server有兩個:
Travis CI 對于公開倉庫(比如github)免費(fèi),私有倉庫收費(fèi)
Jenkins 免費(fèi)
優(yōu)化你的測試代碼
準(zhǔn)確的測試用例
通常,你的你的測試用例分為三部分:
配置測試的初始狀態(tài)
對要測試的目標(biāo)執(zhí)行代碼
對測試結(jié)果進(jìn)行斷言(成功 or 失?。?div>
提取公共的代碼和操作,減少copy/paste這類工作,測試用例是上層調(diào)用,只關(guān)心業(yè)務(wù)邏輯,不關(guān)心內(nèi)部代碼實現(xiàn)。
對實際的UI操作庫進(jìn)行了封裝,并且暴露出RESTFUL的接口。然后測試代碼通過HTTP請求的方式,來進(jìn)行實際的測試。其中,實際驅(qū)動UI的框架根據(jù)系統(tǒng)版本有所不同: