”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > python 并发.futures

python 并发.futures

发布于2024-11-08
浏览:247

python concurrent.futures

未来

Future 是一个容器,可以保存计算结果或计算期间发生的错误。创建 future 时,它​​以 PENDING 状态开始。该库不打算手动创建此对象,除非出于测试目的。

import concurrent.futures as futures

f = futures.Future()
assert(f._result is None)
assert(f._exception is None)
assert(f._state == 'PENDING')

PENDING 状态表示用户请求的计算已在线程池中注册并放入队列中,但尚未被任何线程拾取执行。一旦空闲线程从队列中获取任务(回调),Future 就会转换为 RUNNING 状态。 Future 只能在处于 PENDING 状态时被取消。因此,在 PENDING 和 RUNNING 状态之间存在一个时间窗口,在此期间可以取消请求的计算。

import concurrent.futures as futures

def should_cancel_pending_future():
    f = futures.Future()
    assert(f._state == 'PENDING')
    assert(f.cancel())
    assert(f._state == 'CANCELLED')

def should_not_cancel_running_future():
    f = futures.Future()
    f.set_running_or_notify_cancel()
    assert(f._state == 'RUNNING')
    assert(not f.cancel())

def cancel_is_idempotent():
    f = futures.Future()
    assert(f.cancel())
    assert(f.cancel())


should_cancel_pending_future()
should_not_cancel_running_future()
cancel_is_idempotent()

线程池中请求的操作可以完成计算值或导致错误。无论结果如何,未来都会过渡到 FINISHED 状态。然后将结果或错误存储在相应的字段中。

import concurrent.futures as futures

def future_completed_with_result():
    f = futures.Future()
    f.set_result('foo')
    assert(f._state == 'FINISHED')
    assert(f._result == 'foo')
    assert(f._exception is None)

def future_completed_with_exception():
    f = futures.Future()
    f.set_exception(NameError())
    assert(f._state == 'FINISHED')
    assert(f._result is None)
    assert(isinstance(f._exception, NameError))

future_completed_with_result()
future_completed_with_exception()

要检索计算结果,请使用 result 方法。如果计算尚未完成,此方法将阻塞当前线程(从中调用结果),直到计算完成或等待超时。

如果计算成功完成且没有错误,则 result 方法返回计算值。

import concurrent.futures as futures
import time
import threading

f = futures.Future()
def target():
    time.sleep(1)
    f.set_result('foo')
threading.Thread(target=target).start()
assert(f.result() == 'foo')

如果计算过程中发生异常,结果将引发该异常。

import concurrent.futures as futures
import time
import threading

f = futures.Future()
def target():
    time.sleep(1)
    f.set_exception(NameError)
threading.Thread(target=target).start()
try:
    f.result()
    raise Exception()
except NameError:
    assert(True)

如果方法在等待时超时,则会引发 TimeoutError。

import concurrent.futures as futures

f = futures.Future()
try:
    f.result(1)
    raise Exception()
except TimeoutError:
    assert(f._result is None)
    assert(f._exception is None)

尝试获取已取消的计算结果将引发 CancelledError。

import concurrent.futures as futures

f = futures.Future()
assert(f.cancel())
try:
    f.result()
    raise Exception()
except futures.CancelledError:
    assert(True)

等待策略

在开发过程中,需要在一个线程池上运行N次计算并等待其完成是很常见的。为了实现这一点,该库提供了等待函数。等待策略有几种:FIRST_COMPLETED、FIRST_EXCEPTION、ALL_COMPLETED。

所有等待策略的共同点是,如果传递给 wait 方法的 future 已经完成,则无论选择何种策略,都会返回传递的 future 的集合。无论它们是如何完成的,无论是有错误、结果还是被取消,都无关紧要。

import concurrent.futures as futures

def test(return_when):
    f1, f2, f3 = futures.Future(), futures.Future(), futures.Future()
    f1.cancel()
    f1.set_running_or_notify_cancel() # required
    f2.set_result('foo')
    f3.set_exception(NameError)

    r = futures.wait([f1, f2, f3], return_when=return_when)
    assert(len(r.done) == 3)
    assert(len(r.not_done) == 0)

for return_when in [futures.ALL_COMPLETED, futures.FIRST_EXCEPTION, futures.FIRST_COMPLETED]:
    test(return_when)

ALL_COMPLETED 策略

ALL_COMPLETED 策略保证等待所有传递的 future 完成,或者在超时后退出,并收集截至该时刻完成的 future,这可能是不完整的。

import concurrent.futures as futures
import threading
import time

def should_wait_for_all_futures_to_complete():
    f1 = futures.Future()
    f1.set_result('foo')
    f2 = futures.Future()

    def target():
        time.sleep(1)
        f2.set_result('bar')

    threading.Thread(target=target).start()
    r = futures.wait([f1, f2], return_when=futures.ALL_COMPLETED)
    assert(len(r.done) == 2)

def should_exit_on_timeout():
    f1 = futures.Future()
    f1.set_result('foo')
    f2 = futures.Future()
    r = futures.wait(fs=[f1, f2], timeout=1, return_when=futures.ALL_COMPLETED)
    assert(len(r.done) == 1)


should_wait_for_all_futures_to_complete()
should_exit_on_timeout()

FIRST_COMPLETED

FIRST_COMPLETED 策略保证返回至少有一个已完成的 future 的集合,或者在超时的情况下返回空集合。 此策略并不意味着返回的集合不能包含多个元素.

import concurrent.futures as futures
import threading
import time

f1 = futures.Future()
f2 = futures.Future()

def target():
    time.sleep(1)
    f1.set_result(True)

threading.Thread(target=target).start()

r = futures.wait([f1, f2], return_when=futures.FIRST_COMPLETED)
assert(len(r.done) == 1)
assert(len(r.not_done) == 1)

FIRST_EXCEPTION

如果其中一个计算完成时出现错误,FIRST_EXCEPTION 策略会中断等待。如果没有发生异常,则行为与 ALL_COMPLETED future 相同。

import concurrent.futures as futures
import threading
import time

f1 = futures.Future()
f1.set_result('foo')
f2, f3 = futures.Future(), futures.Future()

def target():
    time.sleep(1)
    f2.set_exception(NameError())

threading.Thread(target=target).start()

r = futures.wait(fs=[f1, f2, f3], return_when=futures.FIRST_EXCEPTION)
assert(len(r.done) == 2)

线程池执行器

该对象负责创建线程池。与该对象交互的主要方法是 Submit 方法。它允许在线程池中注册计算。作为响应,返回一个 Future 对象,用于监控计算状态并获取最终结果。

特性

  • 仅根据需要创建新线程:
    • 如果请求计算时至少有一个空闲线程,则不会创建新线程
    • 如果请求计算时没有空闲线程,则在未达到 maxWorkers 限制的情况下创建一个新线程。
    • 如果没有空闲线程并且已达到 maxWorkers 限制,则计算将被放入队列中并由下一个可用线程执行
  • 默认情况下为计算需求分配的最大线程数等于逻辑处理器核心数
  • 线程一旦创建,即使在低负载的情况下也不会被销毁
版本声明 本文转载于:https://dev.to/mapogolions/python-concurrentfutures-5f4a?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • ## JPQL 中的构造函数表达式:使用还是不使用?
    ## JPQL 中的构造函数表达式:使用还是不使用?
    JPQL 中的构造函数表达式:有益还是有问题的实践?JPQL 提供了使用构造函数表达式在 select 语句中创建新对象的能力。虽然此功能提供了某些优势,但它引发了关于其在软件开发实践中是否适用的问题。构造函数表达式的优点构造函数表达式允许开发人员从实体中提取特定数据并进行组装,从而简化了数据检索将...
    编程 发布于2024-11-08
  • 原型
    原型
    创意设计模式之一。 用于创建给定对象的重复/浅副本。 当直接创建对象成本高昂时,此模式很有用,例如:如果在查询大型数据库后创建对象,则一次又一次地创建该对象在性能方面并不经济。 因此,一旦创建了对象,我们就缓存该对象,并且在将来需要相同的对象时,我们从缓存中获取它,而不是从数据库中再次创建它,并在需...
    编程 发布于2024-11-08
  • Python 变量:命名规则和类型推断解释
    Python 变量:命名规则和类型推断解释
    Python 是一种广泛使用的编程语言,以其简单性和可读性而闻名。了解变量的工作原理是编写高效 Python 代码的基础。在本文中,我们将介绍Python变量命名规则和类型推断,确保您可以编写干净、无错误的代码。 Python变量命名规则 在Python中命名变量时,必须遵循一定的...
    编程 发布于2024-11-08
  • 如何同时高效地将多个列添加到 Pandas DataFrame 中?
    如何同时高效地将多个列添加到 Pandas DataFrame 中?
    同时向 Pandas DataFrame 添加多个列在 Pandas 数据操作中,有效地向 DataFrame 添加多个新列可能是一项需要优雅解决方案的任务。虽然使用带有等号的列列表语法的直观方法可能看起来很简单,但它可能会导致意外的结果。挑战如提供的示例中所示,以下语法无法按预期创建新列:df[[...
    编程 发布于2024-11-08
  • 从开发人员到高级架构师:技术专长和奉献精神的成功故事
    从开发人员到高级架构师:技术专长和奉献精神的成功故事
    一个开发人员晋升为高级架构师的真实故事 一位熟练的Java EE开发人员,只有4年的经验,加入了一家跨国IT公司,并晋升为高级架构师。凭借多样化的技能和 Oracle 认证的 Java EE 企业架构师,该开发人员已经证明了他在架构领域的勇气。 加入公司后,开发人员被分配到一个项目,该公司在为汽车制...
    编程 发布于2024-11-08
  • 如何在 PHP 8.1 中有条件地将元素添加到关联数组?
    如何在 PHP 8.1 中有条件地将元素添加到关联数组?
    条件数组元素添加在 PHP 中,有条件地将元素添加到关联数组的任务可能是一个挑战。例如,考虑以下数组:$arr = ['a' => 'abc'];我们如何有条件地添加 'b' => 'xyz'使用 array() 语句对此数组进行操作?在这种情况下,三元运算符不...
    编程 发布于2024-11-08
  • 从打字机到像素:CMYK、RGB 和构建色彩可视化工具的旅程
    从打字机到像素:CMYK、RGB 和构建色彩可视化工具的旅程
    当我还是个孩子的时候,我出版了一本关于漫画的粉丝杂志。那是在我拥有计算机之前很久——它是用打字机、纸和剪刀创建的! 粉丝杂志最初是黑白的,在我的学校复印的。随着时间的推移,随着它取得了更大的成功,我能够负担得起带有彩色封面的胶印! 然而,管理这些颜色非常具有挑战性。每个封面必须打印四次,每种颜色打印...
    编程 发布于2024-11-08
  • 如何将 Boehm 的垃圾收集器与 C++ 标准库集成?
    如何将 Boehm 的垃圾收集器与 C++ 标准库集成?
    集成 Boehm 垃圾收集器和 C 标准库要将 Boehm 保守垃圾收集器与 C 标准库集合无缝集成,有两种主要方法:重新定义运算符::new此方法涉及重新定义运算符::new以使用Boehm的GC。但是,它可能与现有 C 代码冲突,并且可能无法在不同编译器之间移植。显式分配器参数您可以使用而不是重...
    编程 发布于2024-11-08
  • 如何优化子集验证以获得顶级性能?
    如何优化子集验证以获得顶级性能?
    优化子集验证:确保每一位都很重要确定一个列表是否是另一个列表的子集的任务在编程中经常遇到。虽然交叉列表和比较相等性是一种简单的方法,但考虑性能至关重要,尤其是对于大型数据集。考虑到这种情况,需要考虑的一个关键因素是任何列表在多个测试中是否保持不变。由于您的场景中的其中一个列表是静态的,因此我们可以利...
    编程 发布于2024-11-08
  • 如何处理超出 MySQL BIGINT 限制的大整数?
    如何处理超出 MySQL BIGINT 限制的大整数?
    超出 MySQL BIGINT 限制的大整数处理MySQL 的 BIGINT 数据类型可能看起来是最广泛的整数表示形式,但是在处理时会出现限制超过 20 位的数字。超出 BIGINT 的选项边界当存储要求超出BIGINT的能力时,会出现两个选项:存储为VARCHAR: Twitter API建议将大...
    编程 发布于2024-11-08
  • 如何确保 Python Selenium 中加载多个元素?
    如何确保 Python Selenium 中加载多个元素?
    Python Selenium:确保​​多个元素加载通过 AJAX 处理动态加载的元素时,确认其外观可能具有挑战性。为了处理这种情况,我们将利用 Selenium 的 WebDriverWait 及其各种策略来确保多个元素的存在。所有元素的可见性:验证所有与特定选择器匹配的元素,我们可以使用visi...
    编程 发布于2024-11-08
  • 了解 JavaScript 中的标记模板文字
    了解 JavaScript 中的标记模板文字
    什么是标记模板文字? 带标签的模板文字涉及以函数为前缀的模板文字,称为标签。该函数可以处理和操作文字的内容。这是一个简单的例子: function tag(strings, ...values) { console.log(strings); console.log...
    编程 发布于2024-11-08
  • 二指针算法解释
    二指针算法解释
    我想解释一个简单有效的技巧,你可以在面试中处理数组、字符串、链表等时使用它。这也将提高你对这些数据的基础知识结构。 让我们从理论开始。该算法有两个常见用例: left/right 该算法的中心概念是有两个整数变量,它们将从字符串或数组的两侧移动。通常,人们称之为左和右。左边将从0索引移动到长度-1,...
    编程 发布于2024-11-08
  • 如何消除Python打印语句中的空格?
    如何消除Python打印语句中的空格?
    在 Python 打印语句中删除空格在 Python 中,打印多个项目通常会导致出现意外的空格。可以使用 sep 参数消除这些空格来解决此问题。例如,考虑这个:print("a", "b", "c")此输出将包含空格:a b c要消除它们:...
    编程 发布于2024-11-08
  • 具有样式和变体的 Flexbox 按钮
    具有样式和变体的 Flexbox 按钮
    该按钮使用 CSS Flexbox 进行样式化,包括主要、次要和第三级样式,所有这些样式都在嵌套 CSS 中构建,以提高清晰度和可维护性,其变化形式如下: 带文字 带有文字和图标(左/右/左&右) 只有图标 状态 全角 残疾人类型 HTML代码: <a href="#" class="sf-b...
    编程 发布于2024-11-08

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3