測試左移,我們該關注的是需求的 bug 數還是程式的 bug 數

測試左移,我們該關注的是需求的 bug 數還是程式的 bug 數

上一篇中我們提到了技術債,本篇就來分享另一個重要觀念-測試左移(Shift Left Testing)。

我們先來看一張很有趣的圖,這張圖的橫軸是開發階段,縱軸則是bug被修復的成本。從圖中我們可以看到 bug 如果發生在需求討論概念的階段,要修復的成本非常小,但隨著需求進入設計、開發、測試、發布階段,bug 的修復成本就以指數型成長。

圖片來源

舉一個很簡單的案例來說,想想,老闆有一天提了一個天馬行空的想法,現場的與會者每個人都對這個需求的效益感到疑惑,但礙於老闆的權威,沒有人敢提出質疑,所以這個需求就排入計畫開始進行設計,而在設計階段設計師們發現這個需求似乎跟現有的用戶需求間有所衝突。

比較理想的做法或許是重新討論這個需求的必要性或針對衝突的處理方式,但設計師覺得沒必要去挑戰高階主管們的決策,因此也硬著頭皮規劃了另一個功能分支,專門提供給對這個新需求有需要的朋友,從這個時間點開始,產品的功能就在主線之外,開始有了第二條分支。

來到開發階段,技術團隊一般不太對 PM 與設計師設計好的內容提出太多的 challenge,頂多說說這樣設計會帶來多少額外的工作量。而進入開發階段也意味著這個需求進入改動產品的階段,開發團隊的人數一般是多位,而且投入的各種成本也是多倍。

隨著測試、上線,中間牽涉到的已經不僅僅是開發團隊,還包含行銷、服務、業務等各部門的資源。而這也意味著如果我們在上市後才發現問題,整體付出的代價將是非常可觀的。

如果,我們能在早期與老闆談論需求的階段就先將一些明顯有問題的地方加以釐清,或者直接中止了這個需求的開發,公司都可以因此省下可觀的成本。

而測試左移的倡議,很大一部分目的就基於此。當我們能將 80% 以上的 bug 在早期發現並排除,我們將可以省下非常可觀的成本,這些成本除了人力物力外,最關鍵的就是時間,而時間,將決定一家企業能否在競爭中勝出

圖片來源

這件事在執行上有一定的難度,但在軟體工程領域中,其實有一個很不錯的解決方法來確保我們能更早的發現問題,讓技術債的累積速度大幅降低,它就是 V-Model。

V-Model

在軟體工程領域,為了確保軟體的產出是符合需求,且具有一定品質,早就發展出一些很成熟的管理框架,如 CMMI 或 V-Model,CMMI的框架太過複雜,我自己雖然也經歷過 CMMI Lv4 的認證過程,但我並不認為所有人都該去學習一套這麼龐大的框架,但是 V-Model 的概念我卻認為所有軟體從業人員應該都要了解。

圖片來源

V-Model 是將整個軟體交付過程從概念、系統需求、設計、開發這種從大到小的展開過程視為解構概念階段,而開發後的單元測試、系統驗證、需求確認到後續維護視為整合階段,藉由這些過程來保證需求沒有被錯誤理解,並盡可能的確保開發的成果可以符合原先所預期。

多數的測試工作,原先都著重在 V-Model 的右半邊,而測試左移的概念,則希望大家應該多多重視左半邊。

V-Model 左右兼顧了,聽起來感覺很不錯吧,但說就簡單,做起來到底有多困難呢?以下讓我們來稍微拆解一下套用 V-Model 的開發團隊在進行整個開發工作上的複雜度吧。

當你提出一個概念後,你可能得先做市場調查,研究市場需求、競品,也要先評估過這個概念能帶來的效益,提出一份提案計畫,然後經過一些專家的審議後才能準備進入產品的排程內;

而概念一般會先被解構為系統需求與功能特性,也就是開發團隊能理解的那些文件,同時還需要跟當時的概念提案者反覆確認這些這些系統需求與功能特性的描述是否跟他的概念一致,若一致,則往下;

從需求文件、設計文件中展開發計畫,一樣得逐一確認開發團隊的理解是否正確,並在開發工作告一段落後先做過單元測試,確保單一功能使用上沒有問題,單一程式在執行上符合原先的規格定義;

接著進入整合測試,將多個功能、多個程式整合在一塊一起測試,以確保不會有各自拆開都正常,組合在一起卻出差錯的狀況發生;

緊接著才進入最關鍵的交付驗收階段,雖然花了很多的時間做驗證與確認(Verification & Validation),但這仍不保證最終推出的產品能 100% 符合一開始所提出的概念。

加上若要完整的執行這個流程,需要花費很長的時間,過程中需求可能會有多次變化,而這也會導致團隊交付出來的成果雖然符合初始概念,但卻不符合市場需求的狀況發生

從這段描述中,我們大致可以看到 V-Model 非常嚴謹,但投入的成本異常龐大,不太符合當今快速變化的軟體世界,因此它與瀑布式(Waterfall)開發被大家所遺棄的原因雷同。

但我必須要為 V-Model 說句話,V-Model 所提到的核心觀念都是好的,需求本來就需要被驗證及確認,所以才會發展出 PoC(Proof of Concepts)、MVP(Minimal Vaiable Product)、雛型法(Prototyping)等低成本的驗證方法。

而品質本來就該是個該受到重視的議題,提早發現問題,並針對各個交付物進行品質驗證,並透過持續整合、持續交付讓提高交付的順暢性與品質。

而這也正是近幾年大家談論 agile、DevOps、持續交付(Continuous Delivery)等概念的核心關鍵點。

從上面談論 V-Model 的內容中,我們或許可以看到 V-Model 的優點與缺點,V-Model 是一個嚴謹的模型,唯一的缺點就是對變化的應變速度太慢,而在資訊年代,對很多企業來說應變速度的重要性更優先於品質。也因此,軟體圈中也有人提出了更具有敏捷精神的 V-Model,稱之為 Agile / DevOps V-Model。

圖片來源

不過我個人認為單純的將 V-Model 套用快速迭代的概念還是很難被理解,我個人建議是取用 V-Model 的精神,但在作法上可以根據產品的現況來套用其他更合適的方法

早期的概念驗證階段

這一塊我們在談論敏捷跟 MVP 的概念時應該談到爛了,如果要趁早知道用戶與市場需求,你需要的是盡快推出產品來獲取市場回饋。

並盡可能減少在概念驗證階段就去改動產品的頻率,能用其他替代品,例如類似的產品、服務、功能來驗證,如果沒有其他可參考對象,那就以雛型、wireframe 或其他設計工具來示意,這些都一樣可以達到驗證的目的,而且會大幅減少投入的成本。

而在 AI 逐漸成熟的現代,你完全能用 AI 在短時間內做出一個產品雛形,直接用雛型去進行需求溝通與驗證。

開發過程的快速迭代階段

一但進入開發過程,其實關鍵就是敏捷性,縮短交付週期,並讓每個迭代都能帶來價值,所以良好的需求溝通、優先級管理、系統架構設計、團隊分工與流程管理將是能否加快迭代速度,盡快交付價值,並減少每個交付所需負擔成本的關鍵。

做好品質控制的交付階段

如果前面兩個段落做得都不錯,按理來說團隊應該已經走在做正確的事(do the right thing)這條道路上,但若要確保團隊把事情做對(do thing right),我們還是要把交付的環節給做好。此時你可能得更重視持續整合、持續交付、自動化測試,甚至思考測試驅動開發(TDD, Test-Driven Testing)。


AI-Driven Development 時代,許多觀念或許都會有新的做法,但盡早驗證,降低驗證代價,盡早修正,盡早創造價值的核心概念,基本不會有太多改變

但身為產品開發人員,一定得與時俱進善用新的科技來提高開發效率與品質。

如果你覺得我內容寫得還不錯,歡迎訂閱我的電子報,我每雙週會發送一封電子報到你的信箱。訂閱連結在這,過往的電子報也在這:Gipi電子報

也鼓勵你可以將我的電子報分享給你認為有需要的朋友們,也許你的舉手之勞,將會改變另一個人的思維與習慣。

Read more

[徵才]方圓國際誠徵兩個新職務

[徵才]方圓國際誠徵兩個新職務

今年四月份,我加入了方圓國際擔任策略長,方圓是一家茶飲連鎖公司,旗下有兩個主要品牌「吃茶三千」與「喫茶小舖」。吃茶三千在海外 30 多的城市有約 130 家門市,喫茶小舖在台灣則約有 60 家門市。 我從去年底開始擔任方圓的顧問,主要協助梳理公司的管理制度、流程與阻礙成長的問題。四月份我轉任策略長,過去這一個多月,我除了 AI 的引入與建置外,我也花了大量的時間重新構思公司的整體策略。 我們進行了「未來十年不變的事」的策略探討,最終設定了十年戰略方向,三年目標,以及 2026 年的關鍵任務。 透過這樣深度的策略思考,我們也藉這個機會盤點了公司目前的人才缺口。 以下有兩個很關鍵的角色是我迫切在找尋的。如果你覺得自己或身邊的人很適合加入方圓,請自薦或推薦給我,謝謝。 歡迎將履歷投遞到:gipi@teashop168.com.tw 門市體驗經理(Store Experience Manager) 門市是接觸終端消費者的最後一哩路,也是品牌傳遞價值的關鍵接觸點。我們在全球因應不同的市場有不同的店型設計,

By gipi
克服 AI 焦慮的方法,唯有實作

克服 AI 焦慮的方法,唯有實作

2018-2019 年左右,線上學習在台灣整個大爆發,線上課程一大堆,每個禮拜都有很多線下學習活動。每天都可以看到大量的學習心得與活動心得,每個人講的內容都很有道理。全台灣好像瞬間變成一個知識島,所有人都學識淵博,而自己似乎懂得有點少。 知識焦慮年代 在那個時候,很多人染上了「知識焦慮」的病症。 害怕別人知道自己不知道的,擔心自己沒跟上世界的節拍,所以哪邊有新知往哪兒去,哪邊學習氛圍濃厚就往哪兒鑽。看起來是因為熱愛學習,但內心的煩惱其實是「害怕失去」。 害怕失去話語權,害怕失去社交談資,害怕失去機會,害怕失去競爭力,害怕自己不再是別人眼中領先的族群。 而克服焦慮最有效的方法,不是知道更多,而是實踐,從時間中獲得成果,獲得進步。 那些仍在學而沒有做的人,焦慮是無法停止的,因為他並沒有真的改變現況。 這也是當年為何我們想舉辦 case study、學習營、打卡、案例練習,並且鼓勵大家多多輸出的原因了。因為輸出,其實就是最輕量的實踐,而動手做,則是讓自己學有所用的基本配備。 在那個知識焦慮的年代裡,因為我本來就熱愛學習,也經常輸出,

By gipi
我如何與 AI 協作開發,我的開發步驟分享

我如何與 AI 協作開發,我的開發步驟分享

昨天到工程師場子分享,想說跟大家對照一下,現在是否多數人都跟我一樣,寫程式完全不手打任何一行 code,全部都是 AI 做的。 結果發現,現場只要有在用 AI 開發的人,多數時候真的都是讓 AI 來完成程式撰寫工作。 目前我的開發組合是 Claude Code / Claude Design / Fly.io / Github / Cloudflare,其他還有根據程式功能需要而使用的第三方元件。 做一個新系統的習慣是: 1. 跟 Claude 討論我想解決的問題,以及我的核心需求,中間我可能會用 Claude Cowork 做本地資料的分析,然後請他廣泛收集一下資訊,做幾輪 prototype 的模擬。確認方向是否是我所期待的。 2. 對完需求後,請他產出系統定位、限制、邊界與 PRD。 3. 把 PRD 跟幾個

By gipi
加快了速度,少了回饋

加快了速度,少了回饋

2022 年時我曾推出了一堂課《打造高效軟體開發團隊》。 在這堂課程中我繪製了一張軟體開發過程管理的架構,這張圖我從公司策略->產品策略->需求管理,一路到開發過程管理、交付、市場回饋,最後再回到產品需求管理。 當年我曾說過,軟體開發最重要的其實不是程式開發本身,而是 align 公司策略與產品策略,同時兼顧好短期需求,將需求管理做好。 但我們也可以看到產品需求管理是上述架構中最主要的節點,上承策略,下接短期需求,右邊則是成為所以開發計畫的起頭,同時還要承接來自市場回饋,並能持續優化管理過程與技術債務管理。 簡單的說,決定做什麼,決定了產品定位,決定先做什麼,則決定了策略重心。但要做出決定,除了對目標有清晰的認知外,更重要的是「回饋」。包含市場回饋、使用者回饋、利害關係人回饋(研發/行銷/客服...)。 這陣子透入 AI 開發後我對這張架構圖有一些新的想法: 首先,是生產力過剩。 因為 AI 不用休息,生產力幾乎沒上限,

By gipi