測試左移,我們該關注的是需求的 bug 數還是程式的 bug 數

測試左移,我們該關注的是需求的 bug 數還是程式的 bug 數

上一篇中我們提到了技術債,本篇就來分享另一個重要觀念-測試左移(Shift Left Testing)。

我們先來看一張很有趣的圖,這張圖的橫軸是開發階段,縱軸則是bug被修復的成本。從圖中我們可以看到 bug 如果發生在需求討論概念的階段,要修復的成本非常小,但隨著需求進入設計、開發、測試、發布階段,bug 的修復成本就以指數型成長。

圖片來源

舉一個很簡單的案例來說,想想,老闆有一天提了一個天馬行空的想法,現場的與會者每個人都對這個需求的效益感到疑惑,但礙於老闆的權威,沒有人敢提出質疑,所以這個需求就排入計畫開始進行設計,而在設計階段設計師們發現這個需求似乎跟現有的用戶需求間有所衝突。

比較理想的做法或許是重新討論這個需求的必要性或針對衝突的處理方式,但設計師覺得沒必要去挑戰高階主管們的決策,因此也硬著頭皮規劃了另一個功能分支,專門提供給對這個新需求有需要的朋友,從這個時間點開始,產品的功能就在主線之外,開始有了第二條分支。

來到開發階段,技術團隊一般不太對 PM 與設計師設計好的內容提出太多的 challenge,頂多說說這樣設計會帶來多少額外的工作量。而進入開發階段也意味著這個需求進入改動產品的階段,開發團隊的人數一般是多位,而且投入的各種成本也是多倍。

隨著測試、上線,中間牽涉到的已經不僅僅是開發團隊,還包含行銷、服務、業務等各部門的資源。而這也意味著如果我們在上市後才發現問題,整體付出的代價將是非常可觀的。

如果,我們能在早期與老闆談論需求的階段就先將一些明顯有問題的地方加以釐清,或者直接中止了這個需求的開發,公司都可以因此省下可觀的成本。

而測試左移的倡議,很大一部分目的就基於此。當我們能將 80% 以上的 bug 在早期發現並排除,我們將可以省下非常可觀的成本,這些成本除了人力物力外,最關鍵的就是時間,而時間,將決定一家企業能否在競爭中勝出

圖片來源

這件事在執行上有一定的難度,但在軟體工程領域中,其實有一個很不錯的解決方法來確保我們能更早的發現問題,讓技術債的累積速度大幅降低,它就是 V-Model。

V-Model

在軟體工程領域,為了確保軟體的產出是符合需求,且具有一定品質,早就發展出一些很成熟的管理框架,如 CMMI 或 V-Model,CMMI的框架太過複雜,我自己雖然也經歷過 CMMI Lv4 的認證過程,但我並不認為所有人都該去學習一套這麼龐大的框架,但是 V-Model 的概念我卻認為所有軟體從業人員應該都要了解。

圖片來源

V-Model 是將整個軟體交付過程從概念、系統需求、設計、開發這種從大到小的展開過程視為解構概念階段,而開發後的單元測試、系統驗證、需求確認到後續維護視為整合階段,藉由這些過程來保證需求沒有被錯誤理解,並盡可能的確保開發的成果可以符合原先所預期。

多數的測試工作,原先都著重在 V-Model 的右半邊,而測試左移的概念,則希望大家應該多多重視左半邊。

V-Model 左右兼顧了,聽起來感覺很不錯吧,但說就簡單,做起來到底有多困難呢?以下讓我們來稍微拆解一下套用 V-Model 的開發團隊在進行整個開發工作上的複雜度吧。

當你提出一個概念後,你可能得先做市場調查,研究市場需求、競品,也要先評估過這個概念能帶來的效益,提出一份提案計畫,然後經過一些專家的審議後才能準備進入產品的排程內;

而概念一般會先被解構為系統需求與功能特性,也就是開發團隊能理解的那些文件,同時還需要跟當時的概念提案者反覆確認這些這些系統需求與功能特性的描述是否跟他的概念一致,若一致,則往下;

從需求文件、設計文件中展開發計畫,一樣得逐一確認開發團隊的理解是否正確,並在開發工作告一段落後先做過單元測試,確保單一功能使用上沒有問題,單一程式在執行上符合原先的規格定義;

接著進入整合測試,將多個功能、多個程式整合在一塊一起測試,以確保不會有各自拆開都正常,組合在一起卻出差錯的狀況發生;

緊接著才進入最關鍵的交付驗收階段,雖然花了很多的時間做驗證與確認(Verification & Validation),但這仍不保證最終推出的產品能 100% 符合一開始所提出的概念。

加上若要完整的執行這個流程,需要花費很長的時間,過程中需求可能會有多次變化,而這也會導致團隊交付出來的成果雖然符合初始概念,但卻不符合市場需求的狀況發生

從這段描述中,我們大致可以看到 V-Model 非常嚴謹,但投入的成本異常龐大,不太符合當今快速變化的軟體世界,因此它與瀑布式(Waterfall)開發被大家所遺棄的原因雷同。

但我必須要為 V-Model 說句話,V-Model 所提到的核心觀念都是好的,需求本來就需要被驗證及確認,所以才會發展出 PoC(Proof of Concepts)、MVP(Minimal Vaiable Product)、雛型法(Prototyping)等低成本的驗證方法。

而品質本來就該是個該受到重視的議題,提早發現問題,並針對各個交付物進行品質驗證,並透過持續整合、持續交付讓提高交付的順暢性與品質。

而這也正是近幾年大家談論 agile、DevOps、持續交付(Continuous Delivery)等概念的核心關鍵點。

從上面談論 V-Model 的內容中,我們或許可以看到 V-Model 的優點與缺點,V-Model 是一個嚴謹的模型,唯一的缺點就是對變化的應變速度太慢,而在資訊年代,對很多企業來說應變速度的重要性更優先於品質。也因此,軟體圈中也有人提出了更具有敏捷精神的 V-Model,稱之為 Agile / DevOps V-Model。

圖片來源

不過我個人認為單純的將 V-Model 套用快速迭代的概念還是很難被理解,我個人建議是取用 V-Model 的精神,但在作法上可以根據產品的現況來套用其他更合適的方法

早期的概念驗證階段

這一塊我們在談論敏捷跟 MVP 的概念時應該談到爛了,如果要趁早知道用戶與市場需求,你需要的是盡快推出產品來獲取市場回饋。

並盡可能減少在概念驗證階段就去改動產品的頻率,能用其他替代品,例如類似的產品、服務、功能來驗證,如果沒有其他可參考對象,那就以雛型、wireframe 或其他設計工具來示意,這些都一樣可以達到驗證的目的,而且會大幅減少投入的成本。

而在 AI 逐漸成熟的現代,你完全能用 AI 在短時間內做出一個產品雛形,直接用雛型去進行需求溝通與驗證。

開發過程的快速迭代階段

一但進入開發過程,其實關鍵就是敏捷性,縮短交付週期,並讓每個迭代都能帶來價值,所以良好的需求溝通、優先級管理、系統架構設計、團隊分工與流程管理將是能否加快迭代速度,盡快交付價值,並減少每個交付所需負擔成本的關鍵。

做好品質控制的交付階段

如果前面兩個段落做得都不錯,按理來說團隊應該已經走在做正確的事(do the right thing)這條道路上,但若要確保團隊把事情做對(do thing right),我們還是要把交付的環節給做好。此時你可能得更重視持續整合、持續交付、自動化測試,甚至思考測試驅動開發(TDD, Test-Driven Testing)。


AI-Driven Development 時代,許多觀念或許都會有新的做法,但盡早驗證,降低驗證代價,盡早修正,盡早創造價值的核心概念,基本不會有太多改變

但身為產品開發人員,一定得與時俱進善用新的科技來提高開發效率與品質。

如果你覺得我內容寫得還不錯,歡迎訂閱我的電子報,我每雙週會發送一封電子報到你的信箱。訂閱連結在這,過往的電子報也在這:Gipi電子報

也鼓勵你可以將我的電子報分享給你認為有需要的朋友們,也許你的舉手之勞,將會改變另一個人的思維與習慣。

Read more

我讀麥肯錫的《注意力方程式》報告

我讀麥肯錫的《注意力方程式》報告

近期花了點時間閱讀麥肯錫的《注意力方程式》(The Attention Equation)報告,從中獲得了一些不錯的啟發,也跟大家分享這篇報告所提到的內容,以及我獲得的收穫。 報告背景 報告的內容大約是 20 多頁的原文,核心放在談論注意力方程式(Attention Equation)這個概念,那什麼是注意力方程式,為什麼麥肯錫要特別談論這個概念呢?首先我們得回到近幾年大家經常在談論的幾個概念: 1. 流量愈來愈貴,數位廣告的 ROI 持續下探。 2. 演算法愈來愈迷,多數的數位廣告媒介都被演算法給操控,不容易破解之虞,還經常更動。 3. 傳統的文字內容不再受到流量青睞,長影音也愈來愈沒人想看,反而短影音似乎成為新的流量王者。 過往我們在看待廣告或其他行銷媒介,或者進一步探討企業獲客(Customer Acquisition)的方式時,我們大多會談論自有媒體(Owned media)、付費媒體(Paid media)與贏來的媒體(Earned media)三者的比例,以及企業應該強化的重點。

By gipi
普通人悖論

普通人悖論

今天跑步時聽了一本書,書中提到一個「普通人悖論」。聽著有趣,因為似乎解答了我這幾年的一些自我認知的疑問。 「我們一般人....」 「對普通家庭來說....」 我們總看著成功人士的故事,閱讀那些不平凡的案例,可到最後,我們還是會回過頭來告訴自己「我們就是個普通人」。 我們渴望不凡,渴望能活出屬於自我的人生,但我們卻又認為自己無法脫離普通人的路徑。20 多歲出社會,謀得一份工作,接著兢兢業業數十年,從基層爬到高層,一輩子在職場上與人競爭。當我們看到那些跳脫這種路徑的人時,我們又說服自己「那是別人」、「那是獨特個案」。 我們心理渴望自己也能是獨特個案,但又不斷說服自己「我只是個普通人」。 這種心境,讓我們沒有勇氣去追求屬於自己的人生。 在聆聽這段時,為什麼我會特別有感觸呢? 在我今年撰寫的新書《用商業思維優化你的人生選擇》中我提到,每個人的人生都是獨一無二的。你不見得要像他人一樣功成名就才算非凡,你能做自己喜歡的是,成為自己想要成為的樣子,活出自己的人生,那你就是個非凡的人。 因為其他人很難活得像你這樣。 我內心是堅定相信這件事的。但我卻又經常在一些時刻,會將「我們一般人」

By gipi
如何快速熟悉一個產業?

如何快速熟悉一個產業?

什麼是產業,什麼又是行業? 有人會說電子業、食品業,也有人會說製造業、零售業、服務業,這兩者指的是相同的概念嗎?其實這邊隱含了兩個概念,也就是業種跟業態。 業種,是行業種類,以販售的「商品種類」區分所屬行業。例如賣建材的建材行、賣文具的文具店、賣水果的水果店或賣米的米店等。這些業種店看招牌名稱就可得知該商店販賣哪種商品。 業態,是行業型態,則是以該店家的「經營型態」區分所屬行業。例如提供即時、方便服務的便利商店;提供專櫃及流行品的百貨公司;提供量大、低價的開架式民生消費品的量販店等。這類商店,無法從其名稱辨別產品。通常是提供「一站式購買服務」為訴求,並提供其他相關的附加服務。 典型的業態,其實分兩大類,製造與流通。製造商負責製造產品,流通商負責將貨物流通到消費者手上,並因應消費者的需求,擴大產品品項,增加服務,而大家常講的零售與批發,其實也歸屬於流通範疇中。 舉例來說,生鮮食品經生鮮處理中心,將生鮮品分類分裝,這是製造的範疇,大盤商集中所有產品,

By gipi
當 vibe coding 已成必然,軟體開發會有什麼變化?

當 vibe coding 已成必然,軟體開發會有什麼變化?

當 Vibe coding 興起後,有愈來愈多的資深工程師的工作重點轉換到修復 AI 寫出的各種 bug。因這個現象,有些資深工程師們打趣地說,他們現在的任務像是專門處理這些 vibe coder 寫出來的爛 code。而這個職務稱為 Vibe Coding Cleanup Specialist。 我個人絕對支持 vibe coding,因為這是軟體開發的典範轉移,用得好的話可以大幅提升生產力,加上 AI 顛覆職場的趨勢幾乎不可逆。擁抱變化會比抗拒變化更明智。 這讓我回想起 2005 年剛出社會時,因為我起步的程式領域是 C#.net,使用的開發工具是 Visual Studio。C# 的好與壞我就不提了,但在當年,Visual Studio 這工具被稱為地表最強 IDE 應該是沒問題的。 它有多方便呢?所見即所得,元件直接拉到畫面上,出來的畫面就長那樣,

By gipi