”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 如何识别和缓解不稳定测试:最佳实践和策略。

如何识别和缓解不稳定测试:最佳实践和策略。

发布于2024-07-31
浏览:342

How to Identify and Mitigate Flaky Tests: Best Practices and Strategies.

增强 CI/CD 管道中的测试可靠性和效率

片状测试是一种有时会通过有时会失败的测试,而无需对正在测试的代码进行任何更改。这些测试可能特别麻烦,因为它们破坏了测试套件的可靠性。

考虑配置您的 CI/CD 管道,以便仅在构建通过后,仅当您的代码通过一组预定义的测试用例时。

在理想情况下,您必须为每个测试用例设置优先级,并假设最新的代码库至少能通过一定比例的用例。

但是由于不稳定的测试用例,它们不断失败,因为它们可能已经过时或者用例发生了更改,您的测试用例失败并且合并拉取请求成为一场噩梦。我们不应该减少通过案例的百分比,而应该考虑修改这些测试案例。

了解 Flaky Test 的原因。

  1. 不可预测的测试结果:即使代码没有改变,不稳定的测试有时会通过,有时会失败,从而导致不可预测性。这种随机性会使测试结果变得难以信任。

  2. 复杂调试:追踪不稳定测试的根本原因可能具有挑战性,因为问题可能无法一致地重现,从而难以识别和修复。

  3. 浪费时间和资源:开发人员可能会花费大量时间重新运行测试、调查误报以及调试实际上与代码功能无关的问题。

  4. 对持续集成 (CI) 的影响:不稳定的测试可能会破坏持续集成管道,导致不必要的构建失败并降低自动化测试流程的整体效率。

  5. 错误的信心或不信任:不稳定的测试可能会在偶尔通过时产生错误的信心,或者在意外失败时导致对测试套件的不信任,从而使测试结果更加难以依赖。

缓解 Flaky 测试用例的方法。

  1. 缓解的最佳实践:为了减少不稳定的测试,开发人员可以模拟外部依赖项,使用确定性数据,确保测试是隔离的,并避免依赖于执行的时间或顺序。

  2. 自动检测:实施自动化工具,通过多次运行测试并比较结果来检测不稳定的测试,有助于在开发周期的早期识别和解决不稳定的问题。

  3. 测试隔离:确保每个测试完全隔离运行,不依赖共享状态或外部因素,可以显着减少出现不稳定的可能性。

  4. 定期维护:定期审查和重构测试套件以删除或修复不稳定的测试有助于保持测试过程的完整性和可靠性。

缓解不稳定测试用例的不同策略和工具

  1. Jenkins、CircleCI、Travis CI:此类持续集成/持续部署 (CI/CD) 工具可以配置为重新运行失败的测试,帮助识别不稳定的测试。他们通常有插件或内置支持来处理不稳定的测试。

  2. Docker:公司使用 Docker 创建隔离环境来运行测试。这可以确保每次执行测试时都有一致且干净的环境,从而减少因环境差异而导致的不稳定。

  3. 虚拟机 (VM):与 Docker 类似,VM 可用于确保测试在受控且隔离的环境中运行,最大限度地减少其他进程或依赖项的干扰。

  4. 使用机器学习进行统计分析:一些高级系统使用机器学习来分析测试结果并识别表明不稳定测试的模式。这有助于主动识别和解决不稳定问题。

  5. 代码审查策略和版本控制挂钩:实施严格的代码审查策略,包括检查潜在的不稳定来源,可以防止引入不稳定的测试。
    在合并更改之前使用预提交挂钩或其他版本控制机制以受控方式运行测试可以尽早捕获不稳定的测试。

一些大型组织的策略

  1. 谷歌
  • 重新运行失败的测试:Google 有一项政策,要求他们重新运行无法确定失败是否一致的测试。这有助于识别不稳定的测试。他们还拥有内部工具和基础设施来管理和减轻其广泛的测试套件中的不稳定情况。

  • 测试隔离:Google强调测试隔离的重要性,以确保测试不会相互干扰,这对于减少不稳定至关重要。

  1. 微软
  • 测试分析和报告:Microsoft 使用详细的测试分析和报告工具来跟踪不稳定的测试。通过分析一段时间内的测试结果,他们可以识别模式并查明不稳定的测试。

  • 隔离不稳定的测试:微软有时会隔离不稳定的测试,将它们与主测试套件分开,直到它们被修复,以防止它们影响整体测试结果。

3. Facebook

  • Detox:Facebook 开发了一个名为 Detox 的开源库来测试他们的移动应用程序。 Detox 确保测试在一致的状态和环境中运行,减少异步操作和其他计时问题引起的不稳定。

  • 持续测试:Facebook 将持续测试集成到其开发过程中,使用工具自动重新运行测试并在开发周期的早期识别不稳定的行为。

4。 Netflix

  • 混沌工程:Netflix 采用混沌工程实践来测试其系统的弹性。通过有意引入故障和中断,他们可以识别不稳定的测试并提高测试和系统的稳健性。

  • 自动重试:Netflix 在 CI/CD 管道中使用自动重试机制来重新运行间歇性失败的测试,帮助识别和管理不稳定的测试。

5。领英

  • Flaky 测试管理工具:LinkedIn 专门开发了用于管理 Flaky 测试的工具。这些工具有助于跟踪不稳定的测试,提供对其发生情况的可见性,并确定其解决方案的优先级。

  • 测试环境标准化:LinkedIn专注于标准化测试环境,以减少可变性并确保测试在一致的条件下运行,这有助于减少不稳定。

关于作者

Apoorv Tomar 是一名软件开发人员,在 **Mindroast 上发表博客。您可以在社交网络上联系。订阅**新闻通讯以获取最新精选内容。

版本声明 本文转载于:https://dev.to/apoorvtomar/how-to-identify-and-mitigate-flaky-tests-best-practices-and-strategies-1cb0?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 如何使用 Bootstrap 隐藏响应式布局中的元素?
    如何使用 Bootstrap 隐藏响应式布局中的元素?
    使用 Bootstrap 隐藏响应式布局中的元素设计响应式布局时,管理空间变得至关重要,尤其是在较小的屏幕上。 Bootstrap 为移动设备提供了对折叠菜单栏项目的支持,但是如果您想类似地隐藏其他页面元素怎么办?解决方案:Bootstrap 提供了允许您的类根据屏幕尺寸隐藏元素:超小型设备: 手机...
    编程 发布于2024-12-21
  • Bootstrap 4 Beta 中的列偏移发生了什么?
    Bootstrap 4 Beta 中的列偏移发生了什么?
    Bootstrap 4 Beta:列偏移的删除和恢复Bootstrap 4 在其 Beta 1 版本中引入了重大更改柱子偏移了。然而,随着 Beta 2 的后续发布,这些变化已经逆转。从 offset-md-* 到 ml-auto在 Bootstrap 4 Beta 1 中, offset-md-*...
    编程 发布于2024-12-21
  • 如何使用 MySQL 查找今天生日的用户?
    如何使用 MySQL 查找今天生日的用户?
    如何使用 MySQL 识别今天生日的用户使用 MySQL 确定今天是否是用户的生日涉及查找生日匹配的所有行今天的日期。这可以通过一个简单的 MySQL 查询来实现,该查询将存储为 UNIX 时间戳的生日与今天的日期进行比较。以下 SQL 查询将获取今天有生日的所有用户: FROM USERS ...
    编程 发布于2024-12-21
  • 如何修复嵌入式Python中的“Py_Initialize:无法加载文件系统编解码器”错误?
    如何修复嵌入式Python中的“Py_Initialize:无法加载文件系统编解码器”错误?
    解决嵌入式 Python 中的“Py_Initialize:无法加载文件系统编解码器”错误尝试将嵌入式 Python 3.2 解释器集成到对于 C 应用程序,可能会出现指示“无法加载文件系统编解码器”的错误。当 Py_Initialize 函数无法注册编解码器搜索函数时,会出现此错误。要解决此问题,...
    编程 发布于2024-12-21
  • JavaScript 可以捕获网页屏幕截图并将其发送到服务器吗?
    JavaScript 可以捕获网页屏幕截图并将其发送到服务器吗?
    使用 JavaScript 捕获网页屏幕截图:可能吗?在基于 Web 的应用程序无处不在的世界中,对网页进行屏幕截图已成为可能成为开发人员和用户的一项重要任务。然而,问题出现了:使用 JavaScript 捕获网页截图并提交回服务器是否可行?使用 JavaScript 进行网页截图的挑战由于由于浏览...
    编程 发布于2024-12-21
  • 尽管代码有效,为什么 POST 请求无法捕获 PHP 中的输入?
    尽管代码有效,为什么 POST 请求无法捕获 PHP 中的输入?
    解决 PHP 中的 POST 请求故障在提供的代码片段中:action=''而不是:action="<?php echo $_SERVER['PHP_SELF'];?>";?>"检查 $_POST数组:表单提交后使用 var_dump 检查 $_POST 数...
    编程 发布于2024-12-21
  • 如何修复 macOS 上 Django 中的“配置不正确:加载 MySQLdb 模块时出错”?
    如何修复 macOS 上 Django 中的“配置不正确:加载 MySQLdb 模块时出错”?
    MySQL配置不正确:相对路径的问题在Django中运行python manage.py runserver时,可能会遇到以下错误:ImproperlyConfigured: Error loading MySQLdb module: dlopen(/Library/Python/2.7/site-...
    编程 发布于2024-12-21
  • 如何在 PHP 中组合两个关联数组,同时保留唯一 ID 并处理重复名称?
    如何在 PHP 中组合两个关联数组,同时保留唯一 ID 并处理重复名称?
    在 PHP 中组合关联数组在 PHP 中,将两个关联数组组合成一个数组是一项常见任务。考虑以下请求:问题描述:提供的代码定义了两个关联数组,$array1 和 $array2。目标是创建一个新数组 $array3,它合并两个数组中的所有键值对。 此外,提供的数组具有唯一的 ID,而名称可能重合。要求...
    编程 发布于2024-12-21
  • 如何使用 PHP 计算两个日期之间的时差(以秒为单位)?
    如何使用 PHP 计算两个日期之间的时差(以秒为单位)?
    计算两个日期之间的时差(以秒为单位)计算两个日期之间的时差(以秒为单位)在各种情况下都很有用。本文旨在为这项任务提供一个清晰的解决方案,解决之前 Stack Overflow 讨论中面临的挑战。确定两个日期之间的时间跨度,例如“2011-05-12 18:20:20 ”和“2011-05-13 18...
    编程 发布于2024-12-21
  • 插入数据时如何修复“常规错误:2006 MySQL 服务器已消失”?
    插入数据时如何修复“常规错误:2006 MySQL 服务器已消失”?
    插入记录时如何解决“一般错误:2006 MySQL 服务器已消失”介绍:将数据插入 MySQL 数据库有时会导致错误“一般错误:2006 MySQL 服务器已消失”。当与服务器的连接丢失时会出现此错误,通常是由于 MySQL 配置中的两个变量之一所致。解决方案:解决此错误的关键是调整wait_tim...
    编程 发布于2024-12-21
  • 事件冒泡与捕获:事件传播模式如何影响 DOM 事件处理?
    事件冒泡与捕获:事件传播模式如何影响 DOM 事件处理?
    事件冒泡和捕获:了解 DOM 中的传播事件冒泡和捕获在 HTML DOM API 中的事件传播中发挥着至关重要的作用。为了理解它们的功能,让我们深入研究这两个概念的复杂性。事件冒泡与事件捕获当一个事件发生在嵌套在另一个元素中的元素中时,并且两个元素都为该特定事件注册了事件处理程序,事件传播模式决定了...
    编程 发布于2024-12-21
  • 如何有效地透视 Pandas DataFrame?
    如何有效地透视 Pandas DataFrame?
    如何对数据框进行透视?透视是一种转换,它采用具有代表类别的列和代表值的行的数据框,并重新定向它,以便类别位于行中,值位于列中,索引设置为原始行值。基本语法:df.pivot(index=<row_labels>, columns=<col_labels>, values=&l...
    编程 发布于2024-12-21
  • 最令人烦恼的解析:Timer() - 对象还是函数调用?
    最令人烦恼的解析:Timer() - 对象还是函数调用?
    最令人烦恼的解析:解开 C 11 中的歧义当使用统一初始化器时,C 11 中的“最令人烦恼的解析”歧义会出现,如以下代码片段所示:#include <iostream> class Timer { public: Timer() {} }; int main() { au...
    编程 发布于2024-12-21
  • 如何使用 Jersey 解决 JAX-RS 中的 CORS 问题?
    如何使用 Jersey 解决 JAX-RS 中的 CORS 问题?
    使用 Jersey 通过 JAX-RS 处理 CORS问题: 您在处理请求时遇到 CORS 问题与 JAX-RS 和泽西岛。具体来说,服务器未设置必要的 CORS 标头,导致错误“请求的资源上不存在‘Access-Control-Allow-Origin’标头。”解决方案:要使用 Jersey 处理...
    编程 发布于2024-12-21
  • 除了“if”语句之外:还有哪些地方可以在不进行强制转换的情况下使用具有显式“bool”转换的类型?
    除了“if”语句之外:还有哪些地方可以在不进行强制转换的情况下使用具有显式“bool”转换的类型?
    无需强制转换即可上下文转换为 bool您的类定义了对 bool 的显式转换,使您能够在条件语句中直接使用其实例“t”。然而,这种显式转换提出了一个问题:“t”在哪里可以在不进行强制转换的情况下用作 bool?上下文转换场景C 标准指定了四种值可以根据上下文转换为的主要场景bool:语句:if、whi...
    编程 发布于2024-12-21

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3