【轉(zhuǎn)】一個漏測Bug能讓你想到多少?

一、背景

漏測Bug是指產(chǎn)品邏輯缺陷在測試過程中沒有被發(fā)現(xiàn)(尤其是測試環(huán)境可以重現(xiàn)的缺陷),上線版本發(fā)布后或者在用戶使用體驗后發(fā)現(xiàn)并反饋回來的缺陷??赡茉斐删€上故障或者資損,在對產(chǎn)品測試過程中,自己也難免出現(xiàn)一些Bug的漏測,因此對Bug漏測進行一些思考,并進行總結(jié)。

二、原因分析

Bug其實是任何應用產(chǎn)品都會有的一個問題,不是所有的Bug都能被發(fā)現(xiàn),包括資深測試,或多或少的會出現(xiàn)線上缺陷,誰也不能把軟件所有的功能操作、運用場景想周全。雖說不能做到完全零缺陷,但是每次發(fā)布的產(chǎn)品,我們需要追求缺陷越來越少,產(chǎn)品質(zhì)量越來越高,減少線上問題的反饋。
為什么會出現(xiàn)缺陷漏測,主要有以下幾點:

2.1 需求評審階段,對業(yè)務需求細節(jié)理解不明確,設計存在不合理,未深入挖掘隱含拓展需求

  • 問題分析

    在實際產(chǎn)品研發(fā)過程中,產(chǎn)品需求其實處于一個細化、優(yōu)化、下鉆過程中,在需求PRD文檔交互文檔輸出進行評審時,未能把一些產(chǎn)品細節(jié)問題、隱含需求暴露出來,而測試用例的編寫是基于PRD、交互文檔以及自己對該需求經(jīng)驗理解所涉及測試用例。

  • 改進措施

  1. 需求評審前,我們應該先仔細閱讀PRD及交互文檔,先形成自己對產(chǎn)品的思考,通過腦圖的方式列出對產(chǎn)品設計的疑問點,從用戶或者從行業(yè)角度找出產(chǎn)品設計缺陷點。
  2. 需求評審會議中,帶著列出的疑問點向產(chǎn)品、開發(fā)溝通自己對產(chǎn)品的疑惑和質(zhì)疑點,多提幾個為什么?如何實現(xiàn)?數(shù)據(jù)獲取來源?超出預期的數(shù)據(jù)怎么處理?緩存處理機制如何?數(shù)據(jù)保存何處?邏輯由前端處理還是后端服務?后端服務邏輯是否跟第三方關(guān)聯(lián)?
  3. 需求評審完成后,按照一定的功能,將需求拆分成若干大模塊,大模塊拆分成小功能點,然后考慮功能點的具體實現(xiàn)流程,通過思維導圖細分模塊功能、從頁面、交互、邊界處理、接口邏輯、環(huán)境配置等維度進行梳理需求,盡可能挖掘隱含可拓展需求點,然后進行一次測試組內(nèi)需求評審和技術(shù)復盤,讓協(xié)作成員一起補充隱含需求,使得產(chǎn)品設計缺陷盡早且最大化地暴露出來。
  4. 在后期技術(shù)評審時,探討邏輯交互以及上下游數(shù)據(jù)走向和消息發(fā)送流轉(zhuǎn),串聯(lián)技術(shù)側(cè)疑問點。

2.2 測試用例覆蓋不全面,場景出現(xiàn)遺漏

  • 問題分析

    在測試用例設計過程中,容易出現(xiàn)思維受限或者需求盲區(qū),我們不可能完全覆蓋用戶使用的所有場景,編寫測試用例的時不可能把所有的場景都能想周全,把所有的場景下的情況都寫成測試用例去模擬、去覆蓋這也是不太現(xiàn)實的。

  • 改進措施

  1. 用例設計開始之前,列思維導圖

    通過思維導圖列出業(yè)務流程,前、后端接口邏輯。然后按照PRD和交互文檔,依照UI界面切分成大的功能塊,然后在大功能塊,然后在大功能塊再切成小功能塊,最后到功能點,每個功能點通過UI、基本功能、邊界、內(nèi)存、數(shù)據(jù)、交互、接口邏輯等維度開展用例設計導圖,并列出需找產(chǎn)品、開發(fā)確認的疑點。

  2. 用例設計完成后組織用例評審

    a. 組織開發(fā)、產(chǎn)品進行測試用例評審,并拋出用例設計時的疑問,通過產(chǎn)品實現(xiàn)角度、數(shù)據(jù)存儲、用戶、產(chǎn)品體驗角度對用例進行評審完善補充。

    b. 組織測試組內(nèi)提前預審測試用例也是非常必須的,對于正式用例評審前會組內(nèi)進行預審,在版本結(jié)束后組織全量用例集合入也會進行串講用例,特別是一些經(jīng)驗老道或者業(yè)務熟悉的老司機們,可以在用例評審上快速的幫忙指出用例的遺漏點,有助于測試人員打開思路,盡可能多的覆蓋用戶場景,值得注意的是用例評審上遇到不確定的,應立即記錄下來作為待辦項,結(jié)束后及時找相關(guān)人員確認,避免猜測不確定。

  3. 總結(jié)用戶反饋、完善測試用例流程-下鉆測試用例構(gòu)建以有備無患

    a. 產(chǎn)品測試發(fā)布上線后,對于用戶反饋的缺陷,如果缺陷是因為場景設計不全引起的,我們先分析出現(xiàn)問題的場景是必現(xiàn)還是偶現(xiàn),如果是必現(xiàn),我們可以通過和技術(shù)同學溝通,確認該場景的一些具體復現(xiàn)步驟,確認引入原因,解決方案。

    b. 對于線上如果出現(xiàn)缺陷需要對測試用例完善:除了補充該場景case外,考慮一些和該場景相關(guān)聯(lián)的場景,將多種場景下測試用例及時完善、評審,增加到用例庫中去。

    c. 針對線上缺陷分析其具體原因做復盤總結(jié),關(guān)注線上問題反饋群,及時發(fā)現(xiàn)問題、定位問題、分析原因,判斷是否為老邏輯引入還是新功能引發(fā)問題,精準化補充對應的用例,針對特別場景補充接口自動化、防資損數(shù)據(jù)狗校驗、全量用例集合BVT用例。

2.3 測試階段未嚴格按照測試用例執(zhí)行

  • 問題分析

    按照測試用例執(zhí)行測試,可以讓我們盡可能的不出現(xiàn)遺漏一些測試點。不能因為某一個人或者對某一塊業(yè)務熟悉簡化其測試用例,不嚴格按照測試用例來執(zhí)行測試,這樣出現(xiàn)了一些遺漏Bug實在是不應該。

  • 改進措施

    • 測試用例不一定能保證所有的場景和功能點都能覆蓋到,但是嚴格按照測試用例執(zhí)行測試,能最大程度上保證產(chǎn)品質(zhì)量,盡量避免出現(xiàn)缺陷。
    • 養(yǎng)成測試紀錄習慣:對于測試阻塞用例、測試Fail用例,應該重點關(guān)注并記錄,在回歸測試階段進行精準回歸測試,確保修復Bug導致關(guān)聯(lián)功能引入的新Bug也能被發(fā)現(xiàn)。

雖然測試流程很規(guī)范,但是軟件質(zhì)量還是不如意。

2.4 測試環(huán)境、測試資源受限,導致缺陷漏測

  • 問題分析

對于現(xiàn)階段得物的測試環(huán)境問題是及其復雜的,業(yè)務系統(tǒng)不是孤立存在的,關(guān)聯(lián)方環(huán)環(huán)相扣,而且關(guān)聯(lián)系統(tǒng)常常出現(xiàn)不穩(wěn)定的情況,另外涉及身份證、銀行卡等稀缺資源的使用有限,往往測試完一個有效數(shù)據(jù)廢棄一個有效數(shù)據(jù),所以我們可以盡可能通過mock、還原客戶的實際環(huán)境問題。

現(xiàn)實畢竟不是真實的環(huán)境,由于環(huán)境的差異,可能出現(xiàn)很多意想不到的問題,例如:配置問題、數(shù)據(jù)源問題、以及數(shù)據(jù)同步問題,這些都是可能只在特性的環(huán)境、特定的操作步驟下才會暴露出來,在我們的測試環(huán)境還原不出來,只能基于預發(fā)環(huán)境或者生產(chǎn)環(huán)境來驗證問題,導致質(zhì)量可能出現(xiàn)風險隱患。

  • 改進措施

1)引入灰度發(fā)布測試

測試組在預發(fā)布環(huán)境上進行回歸測試,能基本模擬真實環(huán)境執(zhí)行測試環(huán)境無法測試的用例,又不影響線上用戶的正常使用。

2)生產(chǎn)驗證環(huán)節(jié)做好case篩選

首先進行生產(chǎn)驗證case梳理,生產(chǎn)驗證case除了篩選p0+p1級別case進行回歸外,還應該包含測試環(huán)境mock or 擋板阻塞的測試case,以及后端接口對前端響應的case,在生產(chǎn)回歸階段嚴格按照生產(chǎn)驗證case執(zhí)行去覆蓋真實線上環(huán)境場景。

3)加強后端以及關(guān)聯(lián)方業(yè)務邏輯的了解

前端不僅需要了解前端與后端接口的交互業(yè)務邏輯,還需了解后端接口與其它關(guān)聯(lián)方的接口交互邏輯,校驗判斷其給的接口數(shù)據(jù)是否正確,對測試環(huán)境測試用例的覆蓋程度有整體的把控度,以確保生產(chǎn)環(huán)境的測試用例覆蓋做到全面性。

2.5 開發(fā)人員引入的新Bug

  • 問題分析

有一些開發(fā)人員只會針對你所提交的Bug中問題的描述步驟解決,并不會去排查該問題有可能涉及的所有點,有可能出現(xiàn)解決了這個問題,而引入了一個新的問題。一個不熟悉功能模塊的開發(fā)人員來修復Bug,因為業(yè)務不熟悉,考慮不周全導致無意識的引入新的Bug。

  • 改進措施

1)代碼review

  • 從代碼管理層面:開發(fā)修復一個Bug提交代碼自測通過準備提測時,開發(fā)團隊提交代碼進行代碼review,引入新Bug的可能性概率就會較小,降低風險存在。

2)精準回歸測試

  • 從測試自我修養(yǎng)層面:在開發(fā)提測后,了解代碼改動點,精準分析改動點對相關(guān)聯(lián)的功能點的影響,將開發(fā)人員修復的Bug確認驗證,并將相關(guān)聯(lián)的功能點盡可能的遍歷回歸測試到

3)找開發(fā)聊聊開發(fā)是如何修復這個功能*

  • 跟開發(fā)聊實現(xiàn)很容易從開發(fā)的設計中你可以把握到測試的注意點,并記錄體現(xiàn)在用例中。例如A開發(fā)曾經(jīng)用某種方式做了B功能,出現(xiàn)了某個Bug,現(xiàn)在B功能用了同樣方式實現(xiàn),那么極有可能之前的Bug還會出現(xiàn)在C功能。

4)覆蓋率的實踐和應用

  • 增加開發(fā)冒煙執(zhí)行代碼覆蓋率,根據(jù)覆蓋率數(shù)據(jù)分析有那些冒煙用例未覆蓋到,是方法未覆蓋到、還是類未覆蓋到或者是異常邏輯的校驗未回歸到,用開發(fā)自測和覆蓋率的方式降低其新Bug的引入。

2.6 探索性測試環(huán)節(jié)欠缺

  • 問題分析

我們發(fā)現(xiàn)的很多Bug都不是按測試用例執(zhí)行發(fā)現(xiàn)出來的,都是在測試過程中隨意測試發(fā)現(xiàn)的,而這些步驟在測試用例中并未體現(xiàn),我們的測試用例不可能覆蓋所有的場景。

  • 改進措施

1)準入測試通過后進行ET測試

  • 在測試準入測試完成進入SIT測試階段:一般來說,ET測試是最容易發(fā)現(xiàn)Bug的,所以在測試準入測試完成進入SIT測試階段,先進行一輪探索性測試,使的大部分的Bug先在測試前期暴露出來,讓Bug累計數(shù)量達到一定的峰值,盡早發(fā)現(xiàn)Bug,質(zhì)量越高。

2)UAT 測試之前進行組內(nèi)ET測試

  • SIT測試進入尾聲,UAT測試之前組織一次組內(nèi)ET測試,讓組內(nèi)不同的測試用不同的測試方式,測試思維,測試經(jīng)驗,測試習慣進行探索測試,能發(fā)現(xiàn)一些由于思維定勢局限原因?qū)е侣y的Bug、詭異的Bug或者使用不合理的地方。

3)精準化測試

  1. 精準測試的測試用例聚類分析功能,可以有效地發(fā)現(xiàn)“測試的錯誤”。例如一個用例執(zhí)行步驟錯誤,它的聚類結(jié)果必然會發(fā)生變化,管理者通過系統(tǒng)分析的結(jié)果就可以發(fā)現(xiàn)并糾正這一類的錯誤,而之前可能需要在現(xiàn)場回歸反復的確認。

  2. 精準測試的核心技術(shù)要點是測試用例與代碼的追溯技術(shù)。這項技術(shù)簡單來說就是當功能執(zhí)行完成以后對應的整體代碼執(zhí)行情況就會立即產(chǎn)生,即當點擊一個測試用例,就立即追蹤到對應的代碼和模塊。

  3. 精準測試測試漏洞分析功能,適用于敏捷測試。它可以基于程序靜態(tài)數(shù)據(jù)和動態(tài)運行數(shù)據(jù),自動分析軟件缺陷最高風險的位置,引導首先對于高風險的模塊完成覆蓋,在有限時間內(nèi)完成最具有風險的模塊的覆蓋測試。

三、對于開發(fā)角度側(cè)思考

3.1 自測背景

開發(fā)人員做好自測,非常必要,也是大趨勢。前期都是開發(fā)自測,后期才是用戶體驗方面的測試。從成本和時間上分析,Bug越晚發(fā)現(xiàn)修復成本越高;從修改的效率來講,越早處理會越快。一個優(yōu)秀的開發(fā)者,自測的Bug一定會多于測試發(fā)現(xiàn)的Bug,也就是輪到測試的時候Bug數(shù)量相當少。

3.2 疑難問題思考

  1. 時間和進度太緊張,排期緊湊。
  2. 對自己代碼過于自信,自認為有很強的健壯性,不忍心去修改。
  3. 認為這是測試的責任,多度依賴測試。
  4. 不知如何有效的做好自測,覆蓋全面。
  5. 開發(fā)冒煙測試對于QA創(chuàng)建指定的用例理解不透徹,執(zhí)行簡約。

3.3 思維轉(zhuǎn)變

  1. 代碼質(zhì)量、項目質(zhì)量均是我們的責任。
  2. 測試和開發(fā)人員思考問題不同,開發(fā)是在制造軟件,測試是在破壞軟件,想辦法去找出問題。
  3. 任何功能都有正常場景和異常場景,多數(shù)使用等價類和邊界值去選擇數(shù)據(jù),覆蓋全面。
  4. 不要相信任何開發(fā)的代碼是無Bug。
  5. 走出具體實現(xiàn)時用的開發(fā)思維,站在需求和用戶的角度去自測是否通過,假如自己是用戶去測試你的功能。

3.4 不仔細認真自測帶來的痛處和隱患

  1. 需求遺漏:一旦被用戶發(fā)現(xiàn)此問題,用戶印象會大打折扣,可能直接從開始使用即放棄使用,將帶來非常大的客戶流失。
  2. 功能事故:主流程功能沒有測試到位,或者異常場景沒有測試到位,導致線上頻繁報錯,體驗極度不好,直接認為就是事故。
  3. 需求延期上線:如果自測不充分,測試花大量的時間去溝通低等級bug,甚至主流程走不下去,這樣無疑會給開發(fā)帶來返工、重復測試、耗時、需求延期、項目延期等一系列問題。

3.5 制定自測報告規(guī)范

  • 功能模塊介紹及背景介紹
  1. 功能、背景介紹
  2. 使用用戶群體介紹
  • 環(huán)境信息
  1. 版本號
  2. Hosts、代碼發(fā)布分支
  3. 預發(fā)or正式
  4. 功能設計文檔以及UI設計圖等
  5. 數(shù)據(jù)庫數(shù)據(jù)同步、環(huán)境配置、開關(guān)設定等
  • 梳理好的自測點
  1. 編寫代碼時候記錄的業(yè)務點和測試點
  2. 需求變更的自測點
  3. 正向、逆向、異常場景測試點
  4. 兼容性
  5. 開發(fā)此功能是否會對其他功能造成影響,一行代碼是否會引發(fā)新的問題出現(xiàn)
  • 自測實際結(jié)果:
  1. 高等級Bug數(shù)量、影響冒煙核心流程
  2. 中等級Bug數(shù)量、串聯(lián)流程鏈路
  3. 低等級Bug數(shù)量、頁面展示UI效果
  4. 開發(fā)冒煙自測階段覆蓋率
  5. 一輪、集成階段覆蓋率
  • 期望結(jié)果:
  1. 符合測試SOP規(guī)定準出標準
  2. 冒煙自測以及集成階段覆蓋率標準
  3. 測試階段Bug數(shù)量的控制
  4. 上線后Bug數(shù)量的控制,質(zhì)量月復盤滿足數(shù)量控制標準

四、總結(jié)

缺陷漏測發(fā)生后我們需要深入分析漏測的Bug,思考哪方面做的不夠,是業(yè)務邏輯理解誤差?用例評測遺漏?技術(shù)方案存在不合理?思考設計用例方向出現(xiàn)了偏差?多問一些幾個為什么,換位思考角度想問題,合理設計評測。確保類似的Bug能被預防提前發(fā)現(xiàn)暴露出來,從而盡可能的降低缺陷的產(chǎn)生,提高產(chǎn)品質(zhì)量。在每個不同階段做好用例測試計劃執(zhí)行,增加精細化測試以及探索性測試環(huán)節(jié),需要開拓新的測試思想思維,走出慣用常規(guī)的測試思想。同時也要站在開發(fā)側(cè)、編寫代碼設計的思維邏輯去考慮,降低可能在測試階段出現(xiàn)Bug漏測、遺漏的出現(xiàn),開發(fā)側(cè)也需嚴格執(zhí)行自測和覆蓋率SOP要求準出

原文:https://segmentfault.com/a/1190000042883339

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關(guān)閱讀更多精彩內(nèi)容

  • 一、背景 漏測Bug是指產(chǎn)品邏輯缺陷在測試過程中沒有被發(fā)現(xiàn)(尤其是測試環(huán)境可以重現(xiàn)的缺陷),上線版本發(fā)布后或者在用...
    得物技術(shù)閱讀 157評論 0 1
  • 1、背景 漏測,指在產(chǎn)品缺陷在測試過程中沒有被發(fā)現(xiàn)(尤其是測試環(huán)境可以重現(xiàn)的缺陷),而是在版本發(fā)布后或者在用戶使用...
    蕭竹閱讀 2,429評論 2 20
  • 下面分析出現(xiàn)缺陷漏測情況所采取的措施: 對需求評審階段,對業(yè)務需求細節(jié)理解不明確,未深入挖掘隱含拓展需求: 改進措...
    鐘微閱讀 1,018評論 0 0
  • 下面分析出現(xiàn)缺陷漏測情況所采取的措施: 對需求評審階段,對業(yè)務需求細節(jié)理解不明確,未深入挖掘隱含拓展需求 改進措施...
    新夢想IT閱讀 141評論 0 0
  • BUG其實是任何產(chǎn)品都無法避免的一個問題,不是所有的bug都能被發(fā)現(xiàn),包括資深測試,或多或少的會出現(xiàn)線上缺陷,誰也...
    alston123閱讀 1,528評論 0 2

友情鏈接更多精彩內(nèi)容