」工欲善其事,必先利其器。「—孔子《論語.錄靈公》
首頁 > 程式設計 > 如何識別和緩解不穩定測試:最佳實踐和策略。

如何識別和緩解不穩定測試:最佳實踐和策略。

發佈於2024-07-31
瀏覽:478

How to Identify and Mitigate Flaky Tests: Best Practices and Strategies.

增强 CI/CD 管道中的测试可靠性和效率

片状测试是一种有时会通过有时会失败的测试,而无需对正在测试的代码进行任何更改。这些测试可能特别麻烦,因为它们破坏了测试套件的可靠性。

考虑配置您的 CI/CD 管道,以便仅在构建通过后,仅当您的代码通过一组预定义的测试用例时。

在理想情况下,您必须为每个测试用例设置优先级,并假设最新的代码库至少能通过一定比例的用例。

但是由于不稳定的测试用例,它们不断失败,因为它们可能已经过时或者用例发生了更改,您的测试用例失败并且合并拉取请求成为一场噩梦。我们不应该减少通过案例的百分比,而应该考虑修改这些测试案例。

了解 Flaky Test 的原因。

  1. 不可预测的测试结果:即使代码没有改变,不稳定的测试有时会通过,有时会失败,从而导致不可预测性。这种随机性会使测试结果变得难以信任。

  2. 复杂调试:追踪不稳定测试的根本原因可能具有挑战性,因为问题可能无法一致地重现,从而难以识别和修复。

  3. 浪费时间和资源:开发人员可能会花费大量时间重新运行测试、调查误报以及调试实际上与代码功能无关的问题。

  4. 对持续集成 (CI) 的影响:不稳定的测试可能会破坏持续集成管道,导致不必要的构建失败并降低自动化测试流程的整体效率。

  5. 错误的信心或不信任:不稳定的测试可能会在偶尔通过时产生错误的信心,或者在意外失败时导致对测试套件的不信任,从而使测试结果更加难以依赖。

缓解 Flaky 测试用例的方法。

  1. 缓解的最佳实践:为了减少不稳定的测试,开发人员可以模拟外部依赖项,使用确定性数据,确保测试是隔离的,并避免依赖于执行的时间或顺序。

  2. 自动检测:实施自动化工具,通过多次运行测试并比较结果来检测不稳定的测试,有助于在开发周期的早期识别和解决不稳定的问题。

  3. 测试隔离:确保每个测试完全隔离运行,不依赖共享状态或外部因素,可以显着减少出现不稳定的可能性。

  4. 定期维护:定期审查和重构测试套件以删除或修复不稳定的测试有助于保持测试过程的完整性和可靠性。

缓解不稳定测试用例的不同策略和工具

  1. Jenkins、CircleCI、Travis CI:此类持续集成/持续部署 (CI/CD) 工具可以配置为重新运行失败的测试,帮助识别不稳定的测试。他们通常有插件或内置支持来处理不稳定的测试。

  2. Docker:公司使用 Docker 创建隔离环境来运行测试。这可以确保每次执行测试时都有一致且干净的环境,从而减少因环境差异而导致的不稳定。

  3. 虚拟机 (VM):与 Docker 类似,VM 可用于确保测试在受控且隔离的环境中运行,最大限度地减少其他进程或依赖项的干扰。

  4. 使用机器学习进行统计分析:一些高级系统使用机器学习来分析测试结果并识别表明不稳定测试的模式。这有助于主动识别和解决不稳定问题。

  5. 代码审查策略和版本控制挂钩:实施严格的代码审查策略,包括检查潜在的不稳定来源,可以防止引入不稳定的测试。
    在合并更改之前使用预提交挂钩或其他版本控制机制以受控方式运行测试可以尽早捕获不稳定的测试。

一些大型组织的策略

  1. 谷歌
  • 重新运行失败的测试:Google 有一项政策,要求他们重新运行无法确定失败是否一致的测试。这有助于识别不稳定的测试。他们还拥有内部工具和基础设施来管理和减轻其广泛的测试套件中的不稳定情况。

  • 测试隔离:Google强调测试隔离的重要性,以确保测试不会相互干扰,这对于减少不稳定至关重要。

  1. 微软
  • 测试分析和报告:Microsoft 使用详细的测试分析和报告工具来跟踪不稳定的测试。通过分析一段时间内的测试结果,他们可以识别模式并查明不稳定的测试。

  • 隔离不稳定的测试:微软有时会隔离不稳定的测试,将它们与主测试套件分开,直到它们被修复,以防止它们影响整体测试结果。

3. Facebook

  • Detox:Facebook 开发了一个名为 Detox 的开源库来测试他们的移动应用程序。 Detox 确保测试在一致的状态和环境中运行,减少异步操作和其他计时问题引起的不稳定。

  • 持续测试:Facebook 将持续测试集成到其开发过程中,使用工具自动重新运行测试并在开发周期的早期识别不稳定的行为。

4。 Netflix

  • 混沌工程:Netflix 采用混沌工程实践来测试其系统的弹性。通过有意引入故障和中断,他们可以识别不稳定的测试并提高测试和系统的稳健性。

  • 自动重试:Netflix 在 CI/CD 管道中使用自动重试机制来重新运行间歇性失败的测试,帮助识别和管理不稳定的测试。

5。领英

  • Flaky 测试管理工具:LinkedIn 专门开发了用于管理 Flaky 测试的工具。这些工具有助于跟踪不稳定的测试,提供对其发生情况的可见性,并确定其解决方案的优先级。

  • 测试环境标准化:LinkedIn专注于标准化测试环境,以减少可变性并确保测试在一致的条件下运行,这有助于减少不稳定。

关于作者

Apoorv Tomar 是一名软件开发人员,在 **Mindroast 上发表博客。您可以在社交网络上联系。订阅**新闻通讯以获取最新精选内容。

版本聲明 本文轉載於:https://dev.to/apoorvtomar/how-to-identify-and-mitigate-flaky-tests-best-practices-and-strategies-1cb0?1如有侵犯,請聯絡[email protected]刪除
最新教學 更多>
  • 跨域場景下CORS何時使用預檢請求?
    跨域場景下CORS何時使用預檢請求?
    CORS:了解跨域請求的「預檢」請求跨域資源共享(CORS) 在製作HTTP 時提出了挑戰跨域請求。為了解決這些限制,引入了預檢請求作為解決方法。 預檢請求說明預檢請求是先於實際請求(例如 GET 或 POST)的 OPTIONS 請求)並用於與伺服器協商請求的權限。這些請求包含兩個附加標頭:Acc...
    程式設計 發佈於2024-11-05
  • 如何使用 PHP 的 glob() 函數以副檔名過濾檔案?
    如何使用 PHP 的 glob() 函數以副檔名過濾檔案?
    在 PHP 中以副檔名過濾檔案使用目錄時,通常需要根據副檔名擷取特定檔案。 PHP 提供了一種使用 glob() 函數來完成此任務的有效方法。 若要以副檔名過濾文件,請使用語法:$files = glob('/path/to/directory/*.extension');例如,要檢索目錄/path...
    程式設計 發佈於2024-11-05
  • 理解 JavaScript 中的 Promise 和 Promise Chaining
    理解 JavaScript 中的 Promise 和 Promise Chaining
    什麼是承諾? JavaScript 中的 Promise 就像你對未來做某事的「承諾」。它是一個對象,表示非同步任務的最終完成(或失敗)及其結果值。簡而言之,Promise 充當尚不可用但將來可用的值的佔位符。 承諾國家 Promise 可以存在於以下三種狀態之一...
    程式設計 發佈於2024-11-05
  • 安全分配
    安全分配
    今天,關於 JavaScript 中安全賦值運算子 (?=) 的新提案引起了熱烈討論。我喜歡 JavaScript 隨著時間的推移而不斷改進,但這也是我最近在某些情況下遇到的問題。我應該將快速範例實作作為函數,對吧? 如果您還沒有閱讀該提案,以下是其建議: const [error, value]...
    程式設計 發佈於2024-11-05
  • 建立隊列介面
    建立隊列介面
    建立字元隊列的介面。 需要開發的三個實作: 固定大小的線性隊列。 循環隊列(複用數組空間)。 動態隊列(根據需要成長)。 1 建立一個名為 ICharQ.java 的檔案 // 字元隊列介面。 公共介面 ICharQ { // 向佇列中插入一個字元。 void put(char...
    程式設計 發佈於2024-11-05
  • Pip 的可編輯模式何時對本機 Python 套件開發有用?
    Pip 的可編輯模式何時對本機 Python 套件開發有用?
    使用Pip 在Python 中利用可編輯模式進行本地包開發在Python 的包管理生態系統中,Pip 擁有“- e”(或'--editable') 特定場景的選項。什麼時候使用這個選項比較有利? 答案在於可編輯模式的實現,官方文件中有詳細說明:「從本地以可編輯模式安裝專案(即setu...
    程式設計 發佈於2024-11-05
  • 當您在瀏覽器中輸入 URL 時會發生什麼?
    當您在瀏覽器中輸入 URL 時會發生什麼?
    您是否想知道當您在瀏覽器中輸入 URL 並按 Enter 鍵時幕後會發生什麼?這個過程比您想像的更加複雜,涉及多個步驟,這些步驟無縫地協同工作以提供您請求的網頁。在本文中,我們將探討從輸入 URL 到查看完全載入的網頁的整個過程,闡明使這一切成為可能的技術和協定。 第 1 步:輸入...
    程式設計 發佈於2024-11-05
  • 如何有效管理大量小HashMap物件的「OutOfMemoryError:超出GC開銷限制」?
    如何有效管理大量小HashMap物件的「OutOfMemoryError:超出GC開銷限制」?
    OutOfMemoryError: Handling Garbage Collection OverheadOutOfMemoryError: Handling Garbage Collection Overhead在Java中,當過多時會出現「java.lang.OutOfMemoryError:...
    程式設計 發佈於2024-11-05
  • 為什麼在 Python 列表初始化中使用 [[]] * n 時列表會連結在一起?
    為什麼在 Python 列表初始化中使用 [[]] * n 時列表會連結在一起?
    使用[[]] * n 進行列表初始化時的列表連結問題使用[[]] 初始化列表列表時 n,程式設計師經常會遇到一個意想不到的問題,即列表似乎連結在一起。發生這種情況是因為 [x]n 語法建立對相同基礎清單物件的多個引用,而不是建立不同的清單實例。 為了說明該問題,請考慮以下代碼:x = [[]] * ...
    程式設計 發佈於2024-11-05
  • Python 變得簡單:從初學者到進階 |部落格
    Python 變得簡單:從初學者到進階 |部落格
    Python Course Code Examples This is a Documentation of the python code i used and created , for learning python. Its easy to understand and L...
    程式設計 發佈於2024-11-05
  • 簡化 TypeScript 中的類型縮小和防護
    簡化 TypeScript 中的類型縮小和防護
    Introduction to Narrowing Concept Typescript documentation explains this topic really well. I am not going to copy and paste the same descrip...
    程式設計 發佈於2024-11-05
  • 何時應該使用 session_unset() 而不是 session_destroy() ,反之亦然?
    何時應該使用 session_unset() 而不是 session_destroy() ,反之亦然?
    理解PHP 中session_unset() 和session_destroy() 的區別PHP 函數session_unset() 和session_destroy() 有不同的用途管理會話數據。儘管它們在清除會話變數方面有明顯相似之處,但它們具有不同的效果。 session_unset() 與s...
    程式設計 發佈於2024-11-05
  • 如何選擇在 C++ 中解析 INI 檔案的最佳方法?
    如何選擇在 C++ 中解析 INI 檔案的最佳方法?
    在C 中解析INI 檔案:各種方法指南在C 處理初始化(INI) 檔案時,開發人員經常遇到有效解析這些文件以提取所需資訊的挑戰。本文探討了用 C 解析 INI 檔案的不同方法,討論了它們的優點和注意事項。 本機 Windows API 函數一種方法是利用 Windows API 函數INI 檔案處理...
    程式設計 發佈於2024-11-05
  • 程式碼日:重新聚焦
    程式碼日:重新聚焦
    2024 年 8 月 19 日星期一 今天是我 100 天程式設計之旅的一半! ?除了記錄我的進步之外,我還喜歡分享學習技巧。我最喜歡的新方法之一是番茄工作法,它需要專注於一項任務 25 分鐘,然後休息 5 分鐘。四個週期後,您會休息更長的時間。這有助於保持注意力並防止倦怠。 我嘗試過 App S...
    程式設計 發佈於2024-11-05
  • 為什麼我在 Visual Studio 2015 中收到編譯器錯誤 C2280「嘗試引用已刪除的函數」?
    為什麼我在 Visual Studio 2015 中收到編譯器錯誤 C2280「嘗試引用已刪除的函數」?
    Visual Studio 2015 中編譯器錯誤C2280「嘗試引用已刪除的函數」Visual Studio 2015 編譯器與其2013 的前身不同,自動為定義移動建構函式或移動賦值運算子的類別產生刪除的複製建構函式。 C 標準強制執行此行為,以防止在首選移動的情況下發生意外複製。 在您的程式碼...
    程式設計 發佈於2024-11-05

免責聲明: 提供的所有資源部分來自互聯網,如果有侵犯您的版權或其他權益,請說明詳細緣由並提供版權或權益證明然後發到郵箱:[email protected] 我們會在第一時間內為您處理。

Copyright© 2022 湘ICP备2022001581号-3