”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > 如何识别和缓解不稳定测试:最佳实践和策略。

如何识别和缓解不稳定测试:最佳实践和策略。

发布于2024-07-31
浏览:582

How to Identify and Mitigate Flaky Tests: Best Practices and Strategies.

增强 CI/CD 管道中的测试可靠性和效率

片状测试是一种有时会通过有时会失败的测试,而无需对正在测试的代码进行任何更改。这些测试可能特别麻烦,因为它们破坏了测试套件的可靠性。

考虑配置您的 CI/CD 管道,以便仅在构建通过后,仅当您的代码通过一组预定义的测试用例时。

在理想情况下,您必须为每个测试用例设置优先级,并假设最新的代码库至少能通过一定比例的用例。

但是由于不稳定的测试用例,它们不断失败,因为它们可能已经过时或者用例发生了更改,您的测试用例失败并且合并拉取请求成为一场噩梦。我们不应该减少通过案例的百分比,而应该考虑修改这些测试案例。

了解 Flaky Test 的原因。

  1. 不可预测的测试结果:即使代码没有改变,不稳定的测试有时会通过,有时会失败,从而导致不可预测性。这种随机性会使测试结果变得难以信任。

  2. 复杂调试:追踪不稳定测试的根本原因可能具有挑战性,因为问题可能无法一致地重现,从而难以识别和修复。

  3. 浪费时间和资源:开发人员可能会花费大量时间重新运行测试、调查误报以及调试实际上与代码功能无关的问题。

  4. 对持续集成 (CI) 的影响:不稳定的测试可能会破坏持续集成管道,导致不必要的构建失败并降低自动化测试流程的整体效率。

  5. 错误的信心或不信任:不稳定的测试可能会在偶尔通过时产生错误的信心,或者在意外失败时导致对测试套件的不信任,从而使测试结果更加难以依赖。

缓解 Flaky 测试用例的方法。

  1. 缓解的最佳实践:为了减少不稳定的测试,开发人员可以模拟外部依赖项,使用确定性数据,确保测试是隔离的,并避免依赖于执行的时间或顺序。

  2. 自动检测:实施自动化工具,通过多次运行测试并比较结果来检测不稳定的测试,有助于在开发周期的早期识别和解决不稳定的问题。

  3. 测试隔离:确保每个测试完全隔离运行,不依赖共享状态或外部因素,可以显着减少出现不稳定的可能性。

  4. 定期维护:定期审查和重构测试套件以删除或修复不稳定的测试有助于保持测试过程的完整性和可靠性。

缓解不稳定测试用例的不同策略和工具

  1. Jenkins、CircleCI、Travis CI:此类持续集成/持续部署 (CI/CD) 工具可以配置为重新运行失败的测试,帮助识别不稳定的测试。他们通常有插件或内置支持来处理不稳定的测试。

  2. Docker:公司使用 Docker 创建隔离环境来运行测试。这可以确保每次执行测试时都有一致且干净的环境,从而减少因环境差异而导致的不稳定。

  3. 虚拟机 (VM):与 Docker 类似,VM 可用于确保测试在受控且隔离的环境中运行,最大限度地减少其他进程或依赖项的干扰。

  4. 使用机器学习进行统计分析:一些高级系统使用机器学习来分析测试结果并识别表明不稳定测试的模式。这有助于主动识别和解决不稳定问题。

  5. 代码审查策略和版本控制挂钩:实施严格的代码审查策略,包括检查潜在的不稳定来源,可以防止引入不稳定的测试。
    在合并更改之前使用预提交挂钩或其他版本控制机制以受控方式运行测试可以尽早捕获不稳定的测试。

一些大型组织的策略

  1. 谷歌
  • 重新运行失败的测试:Google 有一项政策,要求他们重新运行无法确定失败是否一致的测试。这有助于识别不稳定的测试。他们还拥有内部工具和基础设施来管理和减轻其广泛的测试套件中的不稳定情况。

  • 测试隔离:Google强调测试隔离的重要性,以确保测试不会相互干扰,这对于减少不稳定至关重要。

  1. 微软
  • 测试分析和报告:Microsoft 使用详细的测试分析和报告工具来跟踪不稳定的测试。通过分析一段时间内的测试结果,他们可以识别模式并查明不稳定的测试。

  • 隔离不稳定的测试:微软有时会隔离不稳定的测试,将它们与主测试套件分开,直到它们被修复,以防止它们影响整体测试结果。

3. Facebook

  • Detox:Facebook 开发了一个名为 Detox 的开源库来测试他们的移动应用程序。 Detox 确保测试在一致的状态和环境中运行,减少异步操作和其他计时问题引起的不稳定。

  • 持续测试:Facebook 将持续测试集成到其开发过程中,使用工具自动重新运行测试并在开发周期的早期识别不稳定的行为。

4。 Netflix

  • 混沌工程:Netflix 采用混沌工程实践来测试其系统的弹性。通过有意引入故障和中断,他们可以识别不稳定的测试并提高测试和系统的稳健性。

  • 自动重试:Netflix 在 CI/CD 管道中使用自动重试机制来重新运行间歇性失败的测试,帮助识别和管理不稳定的测试。

5。领英

  • Flaky 测试管理工具:LinkedIn 专门开发了用于管理 Flaky 测试的工具。这些工具有助于跟踪不稳定的测试,提供对其发生情况的可见性,并确定其解决方案的优先级。

  • 测试环境标准化:LinkedIn专注于标准化测试环境,以减少可变性并确保测试在一致的条件下运行,这有助于减少不稳定。

关于作者

Apoorv Tomar 是一名软件开发人员,在 **Mindroast 上发表博客。您可以在社交网络上联系。订阅**新闻通讯以获取最新精选内容。

版本声明 本文转载于:https://dev.to/apoorvtomar/how-to-identify-and-mitigate-flaky-tests-best-practices-and-strategies-1cb0?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 哪种在JavaScript中声明多个变量的方法更可维护?
    哪种在JavaScript中声明多个变量的方法更可维护?
    在JavaScript中声明多个变量:探索两个方法在JavaScript中,开发人员经常遇到需要声明多个变量的需要。对此的两种常见方法是:在单独的行上声明每个变量: 当涉及性能时,这两种方法本质上都是等效的。但是,可维护性可能会有所不同。 第一个方法被认为更易于维护。每个声明都是其自己的语句,使其...
    编程 发布于2025-03-26
  • 如何在php中使用卷发发送原始帖子请求?
    如何在php中使用卷发发送原始帖子请求?
    如何使用php 创建请求来发送原始帖子请求,开始使用curl_init()开始初始化curl session。然后,配置以下选项: curlopt_url:请求 [要发送的原始数据指定内容类型,为原始的帖子请求指定身体的内容类型很重要。在这种情况下,它是文本/平原。要执行此操作,请使用包含以下标头...
    编程 发布于2025-03-26
  • 如何配置Pytesseract以使用数字输出的单位数字识别?
    如何配置Pytesseract以使用数字输出的单位数字识别?
    Pytesseract OCR具有单位数字识别和仅数字约束 在pytesseract的上下文中,在配置tesseract以识别单位数字和限制单个数字和限制输出对数字可能会提出质疑。 To address this issue, we delve into the specifics of Te...
    编程 发布于2025-03-26
  • 哪种方法更有效地用于点 - 填点检测:射线跟踪或matplotlib \的路径contains_points?
    哪种方法更有效地用于点 - 填点检测:射线跟踪或matplotlib \的路径contains_points?
    在Python Matplotlib's path.contains_points FunctionMatplotlib's path.contains_points function employs a path object to represent the polygon.它...
    编程 发布于2025-03-26
  • 我可以将加密从McRypt迁移到OpenSSL,并使用OpenSSL迁移MCRYPT加密数据?
    我可以将加密从McRypt迁移到OpenSSL,并使用OpenSSL迁移MCRYPT加密数据?
    将我的加密库从mcrypt升级到openssl 问题:是否可以将我的加密库从McRypt升级到OpenSSL?如果是这样,如何?答案:是的,可以将您的Encryption库从McRypt升级到OpenSSL。我可以使用mcrypt数据使用openssl?可以使用openssl。附加说明: [o...
    编程 发布于2025-03-26
  • 为什么尽管有效代码,为什么在PHP中捕获输入?
    为什么尽管有效代码,为什么在PHP中捕获输入?
    在php ;?>" method="post">The intention is to capture the input from the text box and display it when the submit button is clicked.但是,输出...
    编程 发布于2025-03-26
  • 如何使用Python的请求和假用户代理绕过网站块?
    如何使用Python的请求和假用户代理绕过网站块?
    如何使用Python的请求模拟浏览器行为,以及伪造的用户代理提供了一个用户 - 代理标头一个有效方法是提供有效的用户式header,以提供有效的用户 - 设置,该标题可以通过browser和Acterner Systems the equestersystermery和操作系统。通过模仿像Chro...
    编程 发布于2025-03-26
  • 如何在Java中执行命令提示命令,包括目录更改,包括目录更改?
    如何在Java中执行命令提示命令,包括目录更改,包括目录更改?
    在java 通过Java通过Java运行命令命令可能很具有挑战性。尽管您可能会找到打开命令提示符的代码段,但他们通常缺乏更改目录并执行其他命令的能力。 solution:使用Java使用Java,使用processBuilder。这种方法允许您:启动一个过程,然后将其标准错误重定向到其标准输出。...
    编程 发布于2025-03-26
  • 您如何在Laravel Blade模板中定义变量?
    您如何在Laravel Blade模板中定义变量?
    在Laravel Blade模板中使用Elegance 在blade模板中如何分配变量对于存储以后使用的数据至关重要。在使用“ {{}}”分配变量的同时,它可能并不总是最优雅的解决方案。幸运的是,Blade通过@php Directive提供了更优雅的方法: $ old_section =“...
    编程 发布于2025-03-26
  • 为什么不````''{margin:0; }`始终删除CSS中的最高边距?
    为什么不````''{margin:0; }`始终删除CSS中的最高边距?
    在CSS 问题:不正确的代码: 全球范围将所有余量重置为零,如提供的代码所建议的,可能会导致意外的副作用。解决特定的保证金问题是更建议的。 例如,在提供的示例中,将以下代码添加到CSS中,将解决余量问题: body H1 { 保证金顶:-40px; } 此方法更精确,避免了由全局保证金重置引...
    编程 发布于2025-03-26
  • 对象拟合:IE和Edge中的封面失败,如何修复?
    对象拟合:IE和Edge中的封面失败,如何修复?
    To resolve this issue, we employ a clever CSS solution that solves the problem:position: absolute;top: 50%;left: 50%;transform: translate(-50%, -50%)...
    编程 发布于2025-03-26
  • 如何在GO编译器中自定义编译优化?
    如何在GO编译器中自定义编译优化?
    在GO编译器中自定义编译优化 GO中的默认编译过程遵循特定的优化策略。 However, users may need to adjust these optimizations for specific requirements.Optimization Control in Go Compi...
    编程 发布于2025-03-26
  • 为什么我在Silverlight Linq查询中获得“无法找到查询模式的实现”错误?
    为什么我在Silverlight Linq查询中获得“无法找到查询模式的实现”错误?
    查询模式实现缺失:解决“无法找到”错误在Silverlight应用程序中,尝试使用LINQ建立LINQ连接以错误而实现的数据库”,无法找到查询模式的实现。”当省略LINQ名称空间或查询类型缺少IEnumerable 实现时,通常会发生此错误。 解决问题来验证该类型的质量是至关重要的。在此特定实例中...
    编程 发布于2025-03-26
  • 如何有效地转换PHP中的时区?
    如何有效地转换PHP中的时区?
    在PHP 利用dateTime对象和functions DateTime对象及其相应的功能别名为时区转换提供方便的方法。例如: //定义用户的时区 date_default_timezone_set('欧洲/伦敦'); //创建DateTime对象 $ dateTime = ne...
    编程 发布于2025-03-26
  • 如何实时捕获和流媒体以进行聊天机器人命令执行?
    如何实时捕获和流媒体以进行聊天机器人命令执行?
    在开发能够执行命令的chatbots的领域中,实时从命令执行实时捕获Stdout,一个常见的需求是能够检索和显示标准输出(stdout)在cath cath cant cant cant cant cant cant cant cant interfaces in Chate cant inter...
    编程 发布于2025-03-26

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3