- 曙海教育集團(tuán)論壇 (http://www.rfoamep.cn/bbs/index.asp)
-- 軟件測試 (http://www.rfoamep.cn/bbs/list.asp?boardid=70)
---- 查找嵌入式C語言程序/軟件中的缺陷的多種技術(shù)討論 (http://www.rfoamep.cn/bbs/dispbbs.asp?boardid=70&id=2662)
-- 發(fā)布時間：2010-12-15 12:32:28
-- 查找嵌入式C語言程序/軟件中的缺陷的多種技術(shù)討論
基于模式的靜態(tài)代碼分析、運(yùn)行時內(nèi)存監(jiān)測、單元測試以及數(shù)據(jù)流分析等軟件驗(yàn)證技術(shù)是查找嵌入式C語言程序/軟件缺陷行之有效的方法。上述技術(shù)中的每一種都能查找出某一類特定的錯誤。即便如此，如果用戶僅采用上述技術(shù)中的一種或者幾種來進(jìn)行驗(yàn)證，這樣的驗(yàn)證方法很有可能會漏過對程序中的一些缺陷的檢查。解決此類問題的一種安全和有效的策略就是同時使用上述軟件驗(yàn)證中的所有互補(bǔ)技術(shù)。這樣就能建立起一個牢固的框架來幫助用戶檢查出可能會避開某種特定技術(shù)的缺陷。與此同時，用戶也自然地建立起一個能檢測出關(guān)鍵并且難以查找的功能性錯誤的環(huán)境。
本文將詳盡闡述基于模式的靜態(tài)代碼分析、運(yùn)行時內(nèi)存錯誤檢測、單元測試以及數(shù)據(jù)流分析等自動化技術(shù)共同使用時是如何查找出嵌入式C語言程序/軟件中的缺陷的。本文中將以Parasoft C++test為例來演示上述各項(xiàng)技術(shù)。C++teST是一個經(jīng)廣泛的最佳實(shí)踐證明能提升軟件開發(fā)團(tuán)隊(duì)開發(fā)效率以及軟件質(zhì)量的自動化集成解決方案。
當(dāng)讀者在閱讀本文以及任何時候思考查找到的缺陷時，關(guān)注文中的截圖是很重要的。自動化檢測例如內(nèi)存崩潰和死鎖的缺陷，毫無疑問對任何開發(fā)團(tuán)隊(duì)都是一項(xiàng)必不可少的任務(wù)。盡管如此，最致命的缺陷卻是功能性錯誤，這往往是難以自動發(fā)現(xiàn)的。在本文的結(jié)論部分我們將簡要地討論一下查找這些缺陷的技術(shù)。
情景簡介
為了給出一個具體的示例，我們將就一個我們最近遇到的案例來介紹以及演示我們所推薦的缺陷查找策略：一個運(yùn)行在ARM 板上的簡單傳感器應(yīng)用程序。
假設(shè)我們已經(jīng)創(chuàng)建了該應(yīng)用系統(tǒng)，但是當(dāng)我們將程序上載到系統(tǒng)目標(biāo)板上并試圖運(yùn)行該程序時，我們沒有在LCD屏上看到所預(yù)期的輸出。
我們尚不明確系統(tǒng)不能正常工作的原因，因此我們設(shè)法對系統(tǒng)進(jìn)行調(diào)試，但是在目標(biāo)板上進(jìn)行調(diào)試是一件耗時而且煩人的事。因?yàn)槲覀儾坏貌皇謩臃治稣{(diào)試器的結(jié)果并試圖人工判斷出問題的真正原因。或者我們使用一些被證實(shí)能自動定位出錯誤的工具或技術(shù)來幫助我們減輕負(fù)擔(dān)。
從這一點(diǎn)而言，我們要么期待使用調(diào)試器來調(diào)試程序能夠帶來好運(yùn)，要么我們嘗試使用一種自動化的測試策略來查找代碼中所存在的錯誤。如果自動化技術(shù)仍然沒有幫助我們查找到錯誤，那么我們不得不回到使用調(diào)試器作為最后的辦法。
基于模式的靜態(tài)代碼分析
這里，我們假設(shè)僅在絕對必要的情況下才使用調(diào)試器進(jìn)行調(diào)試，因此我們從運(yùn)行基于模式的靜態(tài)代碼分析開始。它將查找到如下圖所示的問題：
這是違反了 MISRA 的一個規(guī)則，此違規(guī)說明該處的賦值運(yùn)算符存在一些可疑情況。的確，編程者此處的本意是使用比較運(yùn)算符而不是賦值運(yùn)算符。因此我們將此處檢測到的沖突修改掉，并重新運(yùn)行程序。
我們發(fā)現(xiàn)有了一些改善：一些輸出被顯示在了LCD屏上了。但是，由于一次訪問違規(guī)，程序崩潰掉了。因此我們需要再次地做出選擇。我們是應(yīng)該使用調(diào)試器還是繼續(xù)使用自動化的錯誤檢測技術(shù)。由于經(jīng)驗(yàn)告訴我們自動化錯誤檢測技術(shù)能非常高效地檢查出我們當(dāng)前程序所遇到的內(nèi)存崩潰這類問題，因此我們決定使用運(yùn)行時內(nèi)存監(jiān)測來查找問題。
整個程序的運(yùn)行時內(nèi)存監(jiān)測
為了進(jìn)行運(yùn)行時內(nèi)存監(jiān)測，我們使用 C++test 來插裝應(yīng)用程序。這樣的插裝是輕量級的，所以經(jīng)過插裝后的程序適合在目標(biāo)板上運(yùn)行。當(dāng)我們把程序上載到目標(biāo)板上并運(yùn)行經(jīng)過插裝的程序后，我們將結(jié)果下載到PC上，如下的錯誤將被報(bào)告出來：
該結(jié)果指出在第48行代碼處產(chǎn)生了一次讀取數(shù)組越界的錯誤。顯然，msgIndex變量的值肯定超過了數(shù)組的范圍。如果我們隨著堆棧追蹤上一級的原因，我們將發(fā)現(xiàn)此處的打印信息所指示的值的確超出了數(shù)組的范圍（因?yàn)樵谡{(diào)用printMessage()函數(shù)前我們給出了一個錯誤的條件）。我們可以刪除掉這個不必要的條件（value <= 20）以修改這個錯誤。
void handleSensorValue(int value)
{
initialize();
int index = -1;
if (value >= 0 && value <= 10) {
index = VALUE_LOW;
} else if ((value > 10) && (value <= 20)) {
index = VALUE_HIGH;
}
printMessage(index, value);
}
然后我們重新運(yùn)行程序，將不會再報(bào)告任何內(nèi)存錯誤。當(dāng)我們把程序上載到目標(biāo)板上時，它似乎如我們預(yù)期那么在工作了。盡管如此，我們?nèi)匀挥幸恍⿹?dān)心。
我們僅查找到我們所執(zhí)行的代碼路徑中的一個內(nèi)存寫溢出實(shí)例，我們憑什么能夠斷定我們尚未執(zhí)行到的代碼就不會有內(nèi)存寫溢出錯誤了呢？如果我們檢查覆蓋率分析，我們就會發(fā)現(xiàn)reportSensorFailure()這個函數(shù)從未被執(zhí)行到。我們有必要對這個函數(shù)進(jìn)行測試，但是具體如何進(jìn)行呢？建立一個調(diào)用該函數(shù)的單元測試用例就是一個不錯的辦法。
在單元測試中使用運(yùn)行時內(nèi)存監(jiān)測:我們使用C++test的測試用例向?qū)韯?chuàng)建一個測試用例的框架，并向其中添加一些測試代碼。然后運(yùn)行該測試用例——以檢查上面提到的未經(jīng)測試的函數(shù)，同時打開運(yùn)行時內(nèi)存監(jiān)測功能。使用C++teST，全過程大約只需要數(shù)秒鐘。結(jié)果標(biāo)明該函數(shù)已經(jīng)被覆蓋到了，但同時也查找到了新的錯誤：
我們的測試用例查找到了更多的內(nèi)存相關(guān)錯誤。很顯然，當(dāng)失敗處理函數(shù)被調(diào)用時，我們的內(nèi)存初始化存在問題（空指針）。通過更進(jìn)一步的分析，我們發(fā)現(xiàn)在reportSensorValue()函數(shù)中存在函數(shù)調(diào)用順序錯誤。finalize()函數(shù)先于printMessage()函數(shù)被調(diào)用，但是finalize()函數(shù)中釋放了printMessage()函數(shù)需要使用的內(nèi)存。
void finalize()
{
if (messages) {
free(messages[0]);
free(messages[1]);
free(messages[2]);
}
free(messages);
}
將函數(shù)調(diào)用順序進(jìn)行修改后，我們重新運(yùn)行程序。
這樣我們就解決了上面報(bào)告中的第一個錯誤。現(xiàn)在我們再來分析報(bào)告中的第二個錯誤：即打印信息中的AccessViolatiONException。產(chǎn)生這個錯誤的原因是相應(yīng)的消息列表未經(jīng)初始化。為了解決該問題，我們在打印該信息前調(diào)用一次initialize()函數(shù)來對其進(jìn)行初始化。經(jīng)修改后的函數(shù)如下所示：
void reportSensorFailure()
{
initialize();
printMessage(ERROR, 0);
finalize();
}
當(dāng)我們再次運(yùn)行該測試用例時，僅有一個任務(wù)被報(bào)告出來：未經(jīng)驗(yàn)證的單元測試用例（an unvalidated unit test case），這其實(shí)并不算一條錯誤。我們只需對輸出進(jìn)行一下驗(yàn)證，以將該測試用例轉(zhuǎn)換為回歸測試。通過創(chuàng)建合適的斷言，C++test會自動為我們完成這些步驟。
接下來我們再次運(yùn)行整個程序。覆蓋率分析告訴我們幾乎整個程序都已經(jīng)被覆蓋到了，并且沒有發(fā)現(xiàn)任何內(nèi)存錯誤。
這樣就結(jié)束了嗎？其實(shí)不然。雖然我們運(yùn)行了整個程序并為未覆蓋到的函數(shù)創(chuàng)建了單元測試用例，但還是有一些路徑是沒有被覆蓋到的。我們?nèi)匀豢梢岳^續(xù)創(chuàng)建單元測試用例，但是若指望通過這樣的方法來覆蓋程序中的所有路徑將耗費(fèi)相當(dāng)長的時間。或者我們使用另外的方法，使用數(shù)據(jù)流分析來對這些路徑進(jìn)行模擬。
數(shù)據(jù)流分析
我們使用C++test的BugDetective來進(jìn)行數(shù)據(jù)流分析，BugDetective能模擬系統(tǒng)中的不同路徑并檢查這些路徑中是否存在潛在的問題。進(jìn)行數(shù)據(jù)流分析后，我們得到如下結(jié)果：
仔細(xì)分析報(bào)告的結(jié)果，我們發(fā)現(xiàn)程序中存在一條未被覆蓋到的潛在路徑可能會造成在finalize()函數(shù)中出現(xiàn)兩次free的操作。在程序中，reportSensorValue()函數(shù)調(diào)用了finalize()函數(shù)，然后finalize()函數(shù)調(diào)用了free()。同時，finalize()函數(shù)還會被mainLoop()函數(shù)調(diào)用。我們可以修改finalize()函數(shù)以使其更加智能化，從而修復(fù)這個問題，修改后的代碼如下：
void finalize()
{
if (messages) {
free(messages[0]);
free(messages[1]);
free(messages[2]);
free(messages);
messages = 0;
}
}
現(xiàn)在我們再次運(yùn)行數(shù)據(jù)流分析，得到的結(jié)果將只有兩個問題：
這里我們可能使用了-1作為索引來訪問了數(shù)組。這是由于整型變量index被設(shè)置的初始值為-1，并且存在一條可能通過if語句的路徑在未將該整型變量正確的進(jìn)行初始化之前便調(diào)用了printMessage()函數(shù)。運(yùn)行時分析未檢查到這樣的一條路徑，并且該路徑很有可能在真實(shí)世界中永遠(yuǎn)不可能被執(zhí)行到。這就是靜態(tài)數(shù)據(jù)流分析相對于運(yùn)真實(shí)運(yùn)行時內(nèi)存監(jiān)測最主要的不足：數(shù)據(jù)流分析能檢查出潛在的路徑，這些路徑可能包含在程序?qū)嶋H執(zhí)行過程中不會執(zhí)行到或不存在的路徑。盡管如此，為了做到有備無患，我們刪除了上述的不必要的條件（value>=0）以修改這個潛在的錯誤。
void handleSensorValue(int value)
{
initialize();
int index = -1;
if (value <= 10) {
index = VALUE_LOW;
} else {
index = VALUE_HIGH;
}
printMessage(index, value);
}
相同地，我們也對最后一個報(bào)告的錯誤進(jìn)行相應(yīng)的處理。現(xiàn)在我們再次運(yùn)行數(shù)據(jù)流分析，將不會再有錯誤被報(bào)告出來。
為了確保程序運(yùn)行一切正常，我們重新運(yùn)行整個分析過程。首先，我們開啟運(yùn)行時內(nèi)存監(jiān)測并運(yùn)行應(yīng)用程序，一切表現(xiàn)正常。然后我們開啟內(nèi)存監(jiān)測并運(yùn)行單元測試，一個任務(wù)被報(bào)告出來：
我們的單元測試檢測到reportSensorFailure()函數(shù)的行為已經(jīng)發(fā)生了改變。這是由于我們已經(jīng)對finalize()函數(shù)進(jìn)行了修改——為了糾正之前報(bào)告的一個問題所做的修改。此處報(bào)告的任務(wù)是為了讓我們注意此修改，并提示我們應(yīng)該對測試用例進(jìn)行相應(yīng)的審查，并且確定是否應(yīng)該對代碼或者測試用例進(jìn)行相應(yīng)的修改，以表示這種新的行為實(shí)際上是我們所預(yù)期的行為。在檢查完代碼之后，我們發(fā)現(xiàn)后者（修改）是正確的并且應(yīng)該更新斷言的正確條件。
/* CPPtest_TEST_CASE_BEGIN test_reportSensorFailure */
/* CPPTEST_TEST_CASE_CONTEXT void reportSensorFailure(void) */
void sensor_tests_test_reportSensorFailure()
{
/* Pre-condition initialization */
/* Initializing global variable messages */
{
messages = 0 ;
}
{
/* Tested function call */
reportSensorFailure();
/* Post-condition check */
CPPTEST_ASSERT(0 == ( messages ));
}
}
/* CPPTEST_TEST_CASE_END test_reportSensorFailure */
作為最終的確認(rèn)，我們需要獨(dú)立地運(yùn)行整個程序——在IDE中關(guān)閉掉運(yùn)行時內(nèi)存監(jiān)測來對程序進(jìn)行構(gòu)建。結(jié)果顯示一切如我們所預(yù)期一樣運(yùn)行。
總結(jié)
作為全文的結(jié)尾，讓我們一起對上述各個步驟進(jìn)行一個鳥瞰式的總結(jié)。
首先，我們開發(fā)的程序并未如我么所預(yù)期那樣運(yùn)行，我們不得不在兩種解決方法中選擇一種來查找程序中的錯誤：通過運(yùn)行調(diào)試器或者使用自動錯誤檢測技術(shù)。
如果我們使用調(diào)試器運(yùn)行代碼來查找錯誤，我們將會看到一些很奇怪的現(xiàn)象：程序中的一些變量總是被賦予了相同的值。基于這種現(xiàn)象我們不得不通過排除法來查找問題的原因——即在應(yīng)該使用比較運(yùn)算符的地方我們錯誤地使用了賦值運(yùn)算符。而靜態(tài)代碼分析則能為我們自動地檢查出該邏輯錯誤。運(yùn)行時內(nèi)存分析是不可能檢查出這種錯誤的，因?yàn)檫@種錯誤與內(nèi)存無關(guān)。數(shù)據(jù)流分析也很有可能找不到這類錯誤因?yàn)閿?shù)據(jù)流分析僅僅是通過這些路徑而不會驗(yàn)證這些條件的正確性。
當(dāng)我們解決了這個問題后，程序可以運(yùn)行了，但是仍然還有內(nèi)存相關(guān)的問題。內(nèi)存相關(guān)的問題是很難被調(diào)試器發(fā)現(xiàn)的；當(dāng)用戶使用調(diào)試器調(diào)試程序時，用戶并不知道內(nèi)存的實(shí)際大小。但是自動錯誤檢查工具能夠做到這點(diǎn)。因此，為了查找這些內(nèi)存問題，我們將整個程序進(jìn)行插裝，并使用運(yùn)行時內(nèi)存分析工具來運(yùn)行程序。這樣我們就能知道到底是那一片內(nèi)存發(fā)生了寫溢出錯誤。
盡管如此，在審查覆蓋率分析結(jié)果的時候，我們注意到在目標(biāo)板上測試的時候，并不是全部代碼都被覆蓋到了。通過自動化的工具得到這樣的覆蓋率信息是簡單的，因?yàn)楣ぞ邥詣拥?/p>
跟蹤覆蓋率，但是，如果我們是通過調(diào)試器，就不得不判斷哪一部分程序經(jīng)過了驗(yàn)證。而這通常只能依靠我們?nèi)斯び涗浀姆绞絹韺?shí)現(xiàn)。
當(dāng)工具提醒我們一些代碼未被覆蓋到時，我們決定改變單元測試來額外地增加我們測試執(zhí)行的覆蓋率。這就揭示了程序中另外一些問題。在目標(biāo)系統(tǒng)的正常測試中，覆蓋所有函數(shù)也許是不可能完成的任務(wù)，因?yàn)槠渲幸恍┖瘮?shù)可能是硬件的失敗處理函數(shù)或僅在某些小概率的特定情況下才會被調(diào)用的函數(shù)。而對這些函數(shù)的測試對于一些注重安全性的程序而言又是至關(guān)重要的。試想在飛機(jī)上用來處理速度傳感器問題的程序中存在著代碼錯誤：我們會有系統(tǒng)崩潰的危險(xiǎn)，而不是導(dǎo)致某個設(shè)備為非工作狀態(tài)。因此，通過創(chuàng)建單元測試用例來覆蓋這類型的執(zhí)行路徑往往是對其進(jìn)行有效測試的唯一方法。
接下來，我們修復(fù)了工具檢查到的所有問題，同時通過驗(yàn)證相應(yīng)的結(jié)果創(chuàng)建了一個回歸測試用例（作為報(bào)告的任務(wù)之一引導(dǎo)我們完成）。然后我們運(yùn)行數(shù)據(jù)流分析來覆蓋在目標(biāo)系統(tǒng)上即便使用單元測試也未執(zhí)行到的路徑。在此之前，我們幾乎已經(jīng)達(dá)到了100%的代碼行覆蓋率，但是我們的路徑覆蓋率卻未達(dá)到這個水平。BugDetective幫我們發(fā)現(xiàn)了這些方面的一些潛在問題。這些問題可能并沒有實(shí)際發(fā)生或者有可能永遠(yuǎn)不會發(fā)生。也許在實(shí)際運(yùn)行時，這些問題僅僅會在當(dāng)其條件滿足的情況下才會出現(xiàn)，并且在現(xiàn)實(shí)生活中，這些條件可能永遠(yuǎn)不可能滿足。盡管如此，我們不能保證隨著代碼的升級，應(yīng)用程序不會執(zhí)行到這些路徑。
安全起見，我們?nèi)匀恍薷牧怂鶊?bào)告的問題以排除任何可能影響它的實(shí)際應(yīng)用執(zhí)行的風(fēng)險(xiǎn)。在修改代碼的同時，我們同時也引入了回歸測試，當(dāng)我們再次運(yùn)行單元測試時立即被檢測到。在所有的自動化錯誤檢測方法中，回歸測試是唯一能夠幫助我們檢查到代碼是否發(fā)生了功能性的改變的方法，并且能驗(yàn)證出對代碼進(jìn)行的修改是否引入了功能性的錯誤以及不可預(yù)知的副作用。最后，我們修改了回歸測試套件，并重新測試代碼，發(fā)現(xiàn)一切運(yùn)行正常。
正如讀者所見，我們使用的一切測試方法——基于模式的靜態(tài)代碼分析、內(nèi)存分析、單元測試、數(shù)據(jù)流分析以及回歸測試——并不是相互競爭的關(guān)系，恰好相反，它們是一種互補(bǔ)的關(guān)系。將上述工具結(jié)合使用，它們就是一套具有強(qiáng)大作用的工具集，并為嵌入式C語言程序/軟件提供一個無可比擬的自動化錯誤檢測解決方案。
總而言之，通過自動地查找很多關(guān)于內(nèi)存和其它編碼的缺陷，我們成功地讓程序運(yùn)行起來了。盡管如此，值得注意的是，最危險(xiǎn)的缺陷卻是實(shí)際的功能性錯誤：例如程序并未如所指定的要求運(yùn)行。而不幸的是，這些錯誤往往是非常難以被發(fā)現(xiàn)的。
查找這類缺陷的最好的一個方式就是通過同行代碼審查來實(shí)現(xiàn)。即另指派至少一人來檢查代碼并且審查代碼與需求內(nèi)容的一致性，這樣用戶就能對實(shí)際程序是否會如預(yù)期那樣運(yùn)行有一個很好的*估。
另外一個十分有用的策略是圍繞代碼創(chuàng)建一個回歸測試套件，這能幫助用戶快捷地驗(yàn)證代碼與規(guī)范的一致性。在本文所描述的示例情景中，單元測試被用來強(qiáng)制執(zhí)行應(yīng)用程序級的運(yùn)行時內(nèi)存監(jiān)測所未覆蓋到的代碼：它能覆蓋到當(dāng)前程序的功能性，在此之后，我們對代碼做了一些修改，它能提醒我們代碼出現(xiàn)的相應(yīng)的功能性問題。事實(shí)上，這種單元測試用例應(yīng)該被更早地創(chuàng)建起來：理想情況下，當(dāng)用戶在實(shí)現(xiàn)程序的功能時就應(yīng)該被創(chuàng)建起來。這樣，用戶就能得到更高的覆蓋率并同時構(gòu)建起一個更強(qiáng)壯的“安全網(wǎng)”來捕捉關(guān)鍵的功能性改變。
Parasoft的C++test能幫助用戶完成這兩個任務(wù)：從自動化到管理同行代碼審查流程，以及幫助團(tuán)隊(duì)創(chuàng)建，持續(xù)地運(yùn)行并維護(hù)一個高效的回歸測試套件。
關(guān)于Parasoft C++test
Parasoft C++test是一個經(jīng)廣泛的最佳實(shí)踐證明能提升軟件開發(fā)團(tuán)隊(duì)開發(fā)效率以及軟件質(zhì)量的自動化集成解決方案。C++test能進(jìn)行諸如編碼策略增強(qiáng)、靜態(tài)代碼分析、運(yùn)行時內(nèi)存監(jiān)測、自動同行代碼審查以及單元和組件測試，從而為軟件開發(fā)團(tuán)隊(duì)提供一種更加實(shí)用的方法來確保其C以及C++程序能如所預(yù)期那樣工作。C++test可以用于在通用開發(fā)IDE下的桌面平臺中，以及在回歸測試時通過命令行以批處理模式的方式運(yùn)行。同時，C++test還集成了Parasoft的報(bào)告系統(tǒng)，該系統(tǒng)能提供具有細(xì)分能力的基于Web 的儀表板，這使得開發(fā)團(tuán)隊(duì)根據(jù)C++test的測試結(jié)果和其他的一些關(guān)鍵進(jìn)程指標(biāo)來更加方便地跟蹤項(xiàng)目的狀態(tài)和趨勢。
通過在宿主機(jī)上進(jìn)行大量的測試以及在目標(biāo)系統(tǒng)中進(jìn)行的平滑的驗(yàn)證，C++test能夠幫助軟件開發(fā)團(tuán)隊(duì)減少花在嵌入式系統(tǒng)開發(fā)中的時間、精力以及成本。隨著代碼在宿主機(jī)上的構(gòu)建，C++test的自動化框架使得開發(fā)者能在目標(biāo)硬件系統(tǒng)尚未準(zhǔn)備好的情況下就開始測試以提升代碼質(zhì)量。這大大地縮短了花在目標(biāo)系統(tǒng)上測試的時間。早期在宿主機(jī)上構(gòu)建的測試套件可以被重用來在仿真器或真實(shí)的目標(biāo)板上驗(yàn)證程序的功能性。