”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 如何识别和缓解不稳定测试:最佳实践和策略。

如何识别和缓解不稳定测试:最佳实践和策略。

发布于2024-07-31
浏览:907

How to Identify and Mitigate Flaky Tests: Best Practices and Strategies.

增强 CI/CD 管道中的测试可靠性和效率

片状测试是一种有时会通过有时会失败的测试,而无需对正在测试的代码进行任何更改。这些测试可能特别麻烦,因为它们破坏了测试套件的可靠性。

考虑配置您的 CI/CD 管道,以便仅在构建通过后,仅当您的代码通过一组预定义的测试用例时。

在理想情况下,您必须为每个测试用例设置优先级,并假设最新的代码库至少能通过一定比例的用例。

但是由于不稳定的测试用例,它们不断失败,因为它们可能已经过时或者用例发生了更改,您的测试用例失败并且合并拉取请求成为一场噩梦。我们不应该减少通过案例的百分比,而应该考虑修改这些测试案例。

了解 Flaky Test 的原因。

  1. 不可预测的测试结果:即使代码没有改变,不稳定的测试有时会通过,有时会失败,从而导致不可预测性。这种随机性会使测试结果变得难以信任。

  2. 复杂调试:追踪不稳定测试的根本原因可能具有挑战性,因为问题可能无法一致地重现,从而难以识别和修复。

  3. 浪费时间和资源:开发人员可能会花费大量时间重新运行测试、调查误报以及调试实际上与代码功能无关的问题。

  4. 对持续集成 (CI) 的影响:不稳定的测试可能会破坏持续集成管道,导致不必要的构建失败并降低自动化测试流程的整体效率。

  5. 错误的信心或不信任:不稳定的测试可能会在偶尔通过时产生错误的信心,或者在意外失败时导致对测试套件的不信任,从而使测试结果更加难以依赖。

缓解 Flaky 测试用例的方法。

  1. 缓解的最佳实践:为了减少不稳定的测试,开发人员可以模拟外部依赖项,使用确定性数据,确保测试是隔离的,并避免依赖于执行的时间或顺序。

  2. 自动检测:实施自动化工具,通过多次运行测试并比较结果来检测不稳定的测试,有助于在开发周期的早期识别和解决不稳定的问题。

  3. 测试隔离:确保每个测试完全隔离运行,不依赖共享状态或外部因素,可以显着减少出现不稳定的可能性。

  4. 定期维护:定期审查和重构测试套件以删除或修复不稳定的测试有助于保持测试过程的完整性和可靠性。

缓解不稳定测试用例的不同策略和工具

  1. Jenkins、CircleCI、Travis CI:此类持续集成/持续部署 (CI/CD) 工具可以配置为重新运行失败的测试,帮助识别不稳定的测试。他们通常有插件或内置支持来处理不稳定的测试。

  2. Docker:公司使用 Docker 创建隔离环境来运行测试。这可以确保每次执行测试时都有一致且干净的环境,从而减少因环境差异而导致的不稳定。

  3. 虚拟机 (VM):与 Docker 类似,VM 可用于确保测试在受控且隔离的环境中运行,最大限度地减少其他进程或依赖项的干扰。

  4. 使用机器学习进行统计分析:一些高级系统使用机器学习来分析测试结果并识别表明不稳定测试的模式。这有助于主动识别和解决不稳定问题。

  5. 代码审查策略和版本控制挂钩:实施严格的代码审查策略,包括检查潜在的不稳定来源,可以防止引入不稳定的测试。
    在合并更改之前使用预提交挂钩或其他版本控制机制以受控方式运行测试可以尽早捕获不稳定的测试。

一些大型组织的策略

  1. 谷歌
  • 重新运行失败的测试:Google 有一项政策,要求他们重新运行无法确定失败是否一致的测试。这有助于识别不稳定的测试。他们还拥有内部工具和基础设施来管理和减轻其广泛的测试套件中的不稳定情况。

  • 测试隔离:Google强调测试隔离的重要性,以确保测试不会相互干扰,这对于减少不稳定至关重要。

  1. 微软
  • 测试分析和报告:Microsoft 使用详细的测试分析和报告工具来跟踪不稳定的测试。通过分析一段时间内的测试结果,他们可以识别模式并查明不稳定的测试。

  • 隔离不稳定的测试:微软有时会隔离不稳定的测试,将它们与主测试套件分开,直到它们被修复,以防止它们影响整体测试结果。

3. Facebook

  • Detox:Facebook 开发了一个名为 Detox 的开源库来测试他们的移动应用程序。 Detox 确保测试在一致的状态和环境中运行,减少异步操作和其他计时问题引起的不稳定。

  • 持续测试:Facebook 将持续测试集成到其开发过程中,使用工具自动重新运行测试并在开发周期的早期识别不稳定的行为。

4。 Netflix

  • 混沌工程:Netflix 采用混沌工程实践来测试其系统的弹性。通过有意引入故障和中断,他们可以识别不稳定的测试并提高测试和系统的稳健性。

  • 自动重试:Netflix 在 CI/CD 管道中使用自动重试机制来重新运行间歇性失败的测试,帮助识别和管理不稳定的测试。

5。领英

  • Flaky 测试管理工具:LinkedIn 专门开发了用于管理 Flaky 测试的工具。这些工具有助于跟踪不稳定的测试,提供对其发生情况的可见性,并确定其解决方案的优先级。

  • 测试环境标准化:LinkedIn专注于标准化测试环境,以减少可变性并确保测试在一致的条件下运行,这有助于减少不稳定。

关于作者

Apoorv Tomar 是一名软件开发人员,在 **Mindroast 上发表博客。您可以在社交网络上联系。订阅**新闻通讯以获取最新精选内容。

版本声明 本文转载于:https://dev.to/apoorvtomar/how-to-identify-and-mitigate-flaky-tests-best-practices-and-strategies-1cb0?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 跨域场景下CORS何时使用预检请求?
    跨域场景下CORS何时使用预检请求?
    CORS:了解跨域请求的“预检”请求跨域资源共享 (CORS) 在制作 HTTP 时提出了挑战跨域请求。为了解决这些限制,引入了预检请求作为解决方法。预检请求说明预检请求是先于实际请求(例如 GET 或 POST)的 OPTIONS 请求)并用于与服务器协商请求的权限。这些请求包括两个附加标头:Ac...
    编程 发布于2024-11-05
  • 如何使用 PHP 的 glob() 函数按扩展名过滤文件?
    如何使用 PHP 的 glob() 函数按扩展名过滤文件?
    在 PHP 中按扩展名过滤文件使用目录时,通常需要根据扩展名检索特定文件。 PHP 提供了一种使用 glob() 函数来完成此任务的有效方法。要按扩展名过滤文件,请使用语法:$files = glob('/path/to/directory/*.extension');例如,要检索目录 /path/...
    编程 发布于2024-11-05
  • 理解 JavaScript 中的 Promise 和 Promise Chaining
    理解 JavaScript 中的 Promise 和 Promise Chaining
    什么是承诺? JavaScript 中的 Promise 就像你对未来做某事的“承诺”。它是一个对象,表示异步任务的最终完成(或失败)及其结果值。简而言之,Promise 充当尚不可用但将来可用的值的占位符。 承诺国家 Promise 可以存在于以下三种状态之一: ...
    编程 发布于2024-11-05
  • 安全分配
    安全分配
    今天,关于 JavaScript 中安全赋值运算符 (?=) 的新提案引起了热烈讨论。我喜欢 JavaScript 随着时间的推移而不断改进,但这也是我最近在一些情况下遇到的问题。我应该将快速示例实现作为函数,对吧? 如果您还没有阅读该提案,以下是其建议: const [error, value] ...
    编程 发布于2024-11-05
  • 创建队列接口
    创建队列接口
    创建字符队列的接口。 需要开发的三个实现: 固定大小的线性队列。 循环队列(复用数组空间)。 动态队列(根据需要增长)。 1 创建一个名为 ICharQ.java 的文件 // 字符队列接口。 公共接口 ICharQ { // 向队列中插入一个字符。 void put(char ch); ...
    编程 发布于2024-11-05
  • Pip 的可编辑模式何时对本地 Python 包开发有用?
    Pip 的可编辑模式何时对本地 Python 包开发有用?
    使用 Pip 在 Python 中利用可编辑模式进行本地包开发在 Python 的包管理生态系统中,Pip 拥有“-e”(或'--editable') 特定场景的选项。什么时候使用这个选项比较有利?答案在于可编辑模式的实现,官方文档中有详细说明:“从本地以可编辑模式安装项目(即 se...
    编程 发布于2024-11-05
  • 当您在浏览器中输入 URL 时会发生什么?
    当您在浏览器中输入 URL 时会发生什么?
    您是否想知道当您在浏览器中输入 URL 并按 Enter 键时幕后会发生什么?该过程比您想象的更加复杂,涉及多个步骤,这些步骤无缝地协同工作以提供您请求的网页。在本文中,我们将探讨从输入 URL 到查看完全加载的网页的整个过程,阐明使这一切成为可能的技术和协议。 第 1 步:输入 U...
    编程 发布于2024-11-05
  • 如何有效管理大量小HashMap对象的“OutOfMemoryError:超出GC开销限制”?
    如何有效管理大量小HashMap对象的“OutOfMemoryError:超出GC开销限制”?
    OutOfMemoryError: Handling Garbage Collection Overhead在Java中,当过多时会出现“java.lang.OutOfMemoryError: GC Overhead limit allowed”错误根据 Sun 的文档,时间花费在垃圾收集上。要解决...
    编程 发布于2024-11-05
  • 为什么在 Python 列表初始化中使用 [[]] * n 时列表会链接在一起?
    为什么在 Python 列表初始化中使用 [[]] * n 时列表会链接在一起?
    使用 [[]] * n 进行列表初始化时的列表链接问题使用 [[]] 初始化列表列表时 n,程序员经常会遇到一个意想不到的问题,即列表似乎链接在一起。出现这种情况是因为 [x]n 语法创建对同一基础列表对象的多个引用,而不是创建不同的列表实例。为了说明该问题,请考虑以下代码:x = [[]] * ...
    编程 发布于2024-11-05
  • Python 变得简单:从初学者到高级 |博客
    Python 变得简单:从初学者到高级 |博客
    Python Course Code Examples This is a Documentation of the python code i used and created , for learning python. Its easy to understand and L...
    编程 发布于2024-11-05
  • 简化 TypeScript 中的类型缩小和防护
    简化 TypeScript 中的类型缩小和防护
    Introduction to Narrowing Concept Typescript documentation explains this topic really well. I am not going to copy and paste the same descrip...
    编程 发布于2024-11-05
  • 何时应该使用 session_unset() 而不是 session_destroy() ,反之亦然?
    何时应该使用 session_unset() 而不是 session_destroy() ,反之亦然?
    理解 PHP 中 session_unset() 和 session_destroy() 的区别PHP 函数 session_unset() 和 session_destroy() 有不同的用途管理会话数据。尽管它们在清除会话变量方面有明显相似之处,但它们具有不同的效果。session_unset(...
    编程 发布于2024-11-05
  • 如何选择在 C++ 中解析 INI 文件的最佳方法?
    如何选择在 C++ 中解析 INI 文件的最佳方法?
    在 C 中解析 INI 文件:各种方法指南在 C 中处理初始化 (INI) 文件时,开发人员经常遇到有效解析这些文件以提取所需信息的挑战。本文探讨了用 C 解析 INI 文件的不同方法,讨论了它们的优点和注意事项。本机 Windows API 函数一种方法是利用 Windows API 函数INI ...
    编程 发布于2024-11-05
  • 代码日:重新聚焦
    代码日:重新聚焦
    2024 年 8 月 19 日星期一 今天是我 100 天编程之旅的一半! ?除了记录我的进步之外,我还喜欢分享学习技巧。我最喜欢的新方法之一是番茄工作法,它需要专注于一项任务 25 分钟,然后休息 5 分钟。四个周期后,您会休息更长的时间。这有助于保持注意力并防止倦怠。 我尝试过 App Stor...
    编程 发布于2024-11-05
  • 为什么我在 Visual Studio 2015 中收到编译器错误 C2280“尝试引用已删除的函数”?
    为什么我在 Visual Studio 2015 中收到编译器错误 C2280“尝试引用已删除的函数”?
    Visual Studio 2015 中编译器错误 C2280“尝试引用已删除的函数”Visual Studio 2015 编译器与其 2013 的前身不同,自动为定义移动构造函数或移动赋值运算符的类生成删除的复制构造函数。 C 标准强制执行此行为,以防止在首选移动的情况下发生意外复制。在您的代码片...
    编程 发布于2024-11-05

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3