”工欲善其事,必先利其器。“—孔子《论语.录灵公》
首页 > 编程 > python 并发.futures

python 并发.futures

发布于2024-11-08
浏览:804

python concurrent.futures

未来

Future 是一个容器,可以保存计算结果或计算期间发生的错误。创建 future 时,它​​以 PENDING 状态开始。该库不打算手动创建此对象,除非出于测试目的。

import concurrent.futures as futures

f = futures.Future()
assert(f._result is None)
assert(f._exception is None)
assert(f._state == 'PENDING')

PENDING 状态表示用户请求的计算已在线程池中注册并放入队列中,但尚未被任何线程拾取执行。一旦空闲线程从队列中获取任务(回调),Future 就会转换为 RUNNING 状态。 Future 只能在处于 PENDING 状态时被取消。因此,在 PENDING 和 RUNNING 状态之间存在一个时间窗口,在此期间可以取消请求的计算。

import concurrent.futures as futures

def should_cancel_pending_future():
    f = futures.Future()
    assert(f._state == 'PENDING')
    assert(f.cancel())
    assert(f._state == 'CANCELLED')

def should_not_cancel_running_future():
    f = futures.Future()
    f.set_running_or_notify_cancel()
    assert(f._state == 'RUNNING')
    assert(not f.cancel())

def cancel_is_idempotent():
    f = futures.Future()
    assert(f.cancel())
    assert(f.cancel())


should_cancel_pending_future()
should_not_cancel_running_future()
cancel_is_idempotent()

线程池中请求的操作可以完成计算值或导致错误。无论结果如何,未来都会过渡到 FINISHED 状态。然后将结果或错误存储在相应的字段中。

import concurrent.futures as futures

def future_completed_with_result():
    f = futures.Future()
    f.set_result('foo')
    assert(f._state == 'FINISHED')
    assert(f._result == 'foo')
    assert(f._exception is None)

def future_completed_with_exception():
    f = futures.Future()
    f.set_exception(NameError())
    assert(f._state == 'FINISHED')
    assert(f._result is None)
    assert(isinstance(f._exception, NameError))

future_completed_with_result()
future_completed_with_exception()

要检索计算结果,请使用 result 方法。如果计算尚未完成,此方法将阻塞当前线程(从中调用结果),直到计算完成或等待超时。

如果计算成功完成且没有错误,则 result 方法返回计算值。

import concurrent.futures as futures
import time
import threading

f = futures.Future()
def target():
    time.sleep(1)
    f.set_result('foo')
threading.Thread(target=target).start()
assert(f.result() == 'foo')

如果计算过程中发生异常,结果将引发该异常。

import concurrent.futures as futures
import time
import threading

f = futures.Future()
def target():
    time.sleep(1)
    f.set_exception(NameError)
threading.Thread(target=target).start()
try:
    f.result()
    raise Exception()
except NameError:
    assert(True)

如果方法在等待时超时,则会引发 TimeoutError。

import concurrent.futures as futures

f = futures.Future()
try:
    f.result(1)
    raise Exception()
except TimeoutError:
    assert(f._result is None)
    assert(f._exception is None)

尝试获取已取消的计算结果将引发 CancelledError。

import concurrent.futures as futures

f = futures.Future()
assert(f.cancel())
try:
    f.result()
    raise Exception()
except futures.CancelledError:
    assert(True)

等待策略

在开发过程中,需要在一个线程池上运行N次计算并等待其完成是很常见的。为了实现这一点,该库提供了等待函数。等待策略有几种:FIRST_COMPLETED、FIRST_EXCEPTION、ALL_COMPLETED。

所有等待策略的共同点是,如果传递给 wait 方法的 future 已经完成,则无论选择何种策略,都会返回传递的 future 的集合。无论它们是如何完成的,无论是有错误、结果还是被取消,都无关紧要。

import concurrent.futures as futures

def test(return_when):
    f1, f2, f3 = futures.Future(), futures.Future(), futures.Future()
    f1.cancel()
    f1.set_running_or_notify_cancel() # required
    f2.set_result('foo')
    f3.set_exception(NameError)

    r = futures.wait([f1, f2, f3], return_when=return_when)
    assert(len(r.done) == 3)
    assert(len(r.not_done) == 0)

for return_when in [futures.ALL_COMPLETED, futures.FIRST_EXCEPTION, futures.FIRST_COMPLETED]:
    test(return_when)

ALL_COMPLETED 策略

ALL_COMPLETED 策略保证等待所有传递的 future 完成,或者在超时后退出,并收集截至该时刻完成的 future,这可能是不完整的。

import concurrent.futures as futures
import threading
import time

def should_wait_for_all_futures_to_complete():
    f1 = futures.Future()
    f1.set_result('foo')
    f2 = futures.Future()

    def target():
        time.sleep(1)
        f2.set_result('bar')

    threading.Thread(target=target).start()
    r = futures.wait([f1, f2], return_when=futures.ALL_COMPLETED)
    assert(len(r.done) == 2)

def should_exit_on_timeout():
    f1 = futures.Future()
    f1.set_result('foo')
    f2 = futures.Future()
    r = futures.wait(fs=[f1, f2], timeout=1, return_when=futures.ALL_COMPLETED)
    assert(len(r.done) == 1)


should_wait_for_all_futures_to_complete()
should_exit_on_timeout()

FIRST_COMPLETED

FIRST_COMPLETED 策略保证返回至少有一个已完成的 future 的集合,或者在超时的情况下返回空集合。 此策略并不意味着返回的集合不能包含多个元素.

import concurrent.futures as futures
import threading
import time

f1 = futures.Future()
f2 = futures.Future()

def target():
    time.sleep(1)
    f1.set_result(True)

threading.Thread(target=target).start()

r = futures.wait([f1, f2], return_when=futures.FIRST_COMPLETED)
assert(len(r.done) == 1)
assert(len(r.not_done) == 1)

FIRST_EXCEPTION

如果其中一个计算完成时出现错误,FIRST_EXCEPTION 策略会中断等待。如果没有发生异常,则行为与 ALL_COMPLETED future 相同。

import concurrent.futures as futures
import threading
import time

f1 = futures.Future()
f1.set_result('foo')
f2, f3 = futures.Future(), futures.Future()

def target():
    time.sleep(1)
    f2.set_exception(NameError())

threading.Thread(target=target).start()

r = futures.wait(fs=[f1, f2, f3], return_when=futures.FIRST_EXCEPTION)
assert(len(r.done) == 2)

线程池执行器

该对象负责创建线程池。与该对象交互的主要方法是 Submit 方法。它允许在线程池中注册计算。作为响应,返回一个 Future 对象,用于监控计算状态并获取最终结果。

特性

  • 仅根据需要创建新线程:
    • 如果请求计算时至少有一个空闲线程,则不会创建新线程
    • 如果请求计算时没有空闲线程,则在未达到 maxWorkers 限制的情况下创建一个新线程。
    • 如果没有空闲线程并且已达到 maxWorkers 限制,则计算将被放入队列中并由下一个可用线程执行
  • 默认情况下为计算需求分配的最大线程数等于逻辑处理器核心数
  • 线程一旦创建,即使在低负载的情况下也不会被销毁
版本声明 本文转载于:https://dev.to/mapogolions/python-concurrentfutures-5f4a?1如有侵犯,请联系[email protected]删除
最新教程 更多>
  • 如何使用 JavaScript 和 Python 生成 RSA 密钥
    如何使用 JavaScript 和 Python 生成 RSA 密钥
    在当今的数字时代,确保敏感信息的安全至关重要。 RSA 是最广泛使用的加密技术之一,它通过允许安全通信和数据保护来帮助实现这一目标。如果您是想要学习如何生成 RSA 密钥对的初学者,本教程将指导您通过 JavaScript 和 Python 完成该过程。 什么是 RSA? RSA (...
    编程 发布于2024-12-22
  • 大批
    大批
    方法是可以在对象上调用的 fns 数组是对象,因此它们在 JS 中也有方法。 slice(begin):将数组的一部分提取到新数组中,而不改变原始数组。 let arr = ['a','b','c','d','e']; // Usecase: Extract till index p...
    编程 发布于2024-12-22
  • 当鼠标悬停在子元素上时,如何仅使用 CSS 更改父容器的背景颜色?
    当鼠标悬停在子元素上时,如何仅使用 CSS 更改父容器的背景颜色?
    更改子级悬停时父容器的背景颜色(仅限 CSS)而有关使用 CSS 选择父元素的问题通常标记为重复,它忽略了实际解决方案的需要。特别是,当鼠标悬停在其子容器上时更改父容器的背景颜色的问题可以通过仅 CSS 方法来解决。指针事件和悬停: 为了达到这个效果,我们可以操作指针事件和:hover伪类:设置po...
    编程 发布于2024-12-22
  • 如何修复 MySQL 存储表情符号时出现“字符串值不正确”错误?
    如何修复 MySQL 存储表情符号时出现“字符串值不正确”错误?
    解决 MySQL 表情符号存储中的“字符串值不正确”错误存储包含“🎶”等表情符号的推文时,用户可能会遇到错误,指出“字符串值不正确...”此错误是由不兼容的字符编码引起的。要解决此问题问题,数据库和存储推文的表的字符集需要配置为支持 Unicode 字符。操作步骤如下:修改MySQL配...
    编程 发布于2024-12-22
  • 如何逐行读取大文本文件以避免内存过载?
    如何逐行读取大文本文件以避免内存过载?
    逐行读取大文本文件,不会造成内存超载处理超出内存容量的海量文本文件时,逐行读取,不会造成内存超载内存超载变得至关重要。一种节省内存的方法涉及直接在文件对象上使用 for 循环。与 open(...) 一起使用创建一个上下文管理器,该管理器在读取后自动关闭文件。这是一个示例:with open(&qu...
    编程 发布于2024-12-22
  • 如何使用 MySQL 查找今天生日的用户?
    如何使用 MySQL 查找今天生日的用户?
    如何使用 MySQL 识别今天生日的用户使用 MySQL 确定今天是否是用户的生日涉及查找生日匹配的所有行今天的日期。这可以通过一个简单的 MySQL 查询来实现,该查询将存储为 UNIX 时间戳的生日与今天的日期进行比较。以下 SQL 查询将获取今天有生日的所有用户: FROM USERS ...
    编程 发布于2024-12-22
  • 如何在Go中使用正则表达式实现密码验证而不回溯?
    如何在Go中使用正则表达式实现密码验证而不回溯?
    Go 中使用正则表达式进行密码验证密码验证是用户身份验证和安全的一个重要方面。 Go 通过 regexp 包为正则表达式处理提供了强大的标准。本文探讨了在 Go 中使用正则表达式实现密码验证的挑战和解决方案。与许多其他语言相反,Go 的正则表达式风格不支持回溯。这对匹配复杂的密码模式造成了很大的限制...
    编程 发布于2024-12-22
  • 如何正确迭代 getElementsByClassName 并避免不可预测的行为?
    如何正确迭代 getElementsByClassName 并避免不可预测的行为?
    通过 getElementsByClassName 正确迭代使用网页时,通过类名访问元素是一项常见任务。 getElementsByClassName 方法提供一个 NodeList,它表示匹配元素的集合。但是,迭代 NodeList 可能很棘手,尤其是在修改 DOM 时。在您的情况下,您尝试迭代 ...
    编程 发布于2024-12-22
  • 尽管代码有效,为什么 POST 请求无法捕获 PHP 中的输入?
    尽管代码有效,为什么 POST 请求无法捕获 PHP 中的输入?
    解决 PHP 中的 POST 请求故障在提供的代码片段中:action=''而不是:action="<?php echo $_SERVER['PHP_SELF'];?>";?>"检查 $_POST数组:表单提交后使用 var_dump 检查 $_POST 数...
    编程 发布于2024-12-22
  • 为什么 Go 中 `func` 后面有括号?
    为什么 Go 中 `func` 后面有括号?
    理解Go中func后面括号的意义作为Go编程领域的新手,你可能会遇到在func关键字后面直接使用括号的情况。这可能会令人困惑,特别是如果您不熟悉 Go 独特的语法。让我们来解释一下这个看似神秘的功能。背后是什么(v 版本)?在 Go 中,func 后面的括号不是函数签名的一部分,而是表示方法。方法是...
    编程 发布于2024-12-22
  • 如何放宽 PHP 中的 open_basedir 限制?
    如何放宽 PHP 中的 open_basedir 限制?
    放宽 PHP 的 open_basedir 限制PHP 的 open_basedir 限制限制对指定目录树的文件访问。但是,在管理 Web 根目录之外的文件时,此限制可能会成为障碍。为了解决这个问题,您可以实施多种解决方法。一种方法是修改 Apache 的配置文件(例如 httpd.conf),以在...
    编程 发布于2024-12-22
  • 随机盐如何合并到 Bcrypt 密码存储中?
    随机盐如何合并到 Bcrypt 密码存储中?
    随机盐在 Bcrypt 密码存储中的作用bcrypt 是一种强大的密码哈希算法,它结合了随机生成的盐来增强密码安全性。了解盐如何集成到 bcrypt 中对于理解其功能至关重要。bcrypt 算法需要多个输入:密码、工作负载因子和盐。盐是随机生成的字符序列,对于每个密码哈希都是唯一的。它通过防止预先计...
    编程 发布于2024-12-22
  • 如何在Windows上访问XAMPP命令行?
    如何在Windows上访问XAMPP命令行?
    如何在Windows上访问XAMPP的命令行安装了XAMPP的Windows用户经常会遇到一个问题:如何访问XAMPP的命令行XAMPP 的命令行?这使得可以直接从命令提示符执行诸如“php phpfile.php”之类的命令。解决方案:XAMPP 不提供内置命令行界面。相反,您需要配置 Windo...
    编程 发布于2024-12-22
  • 如何按多列升序和降序对 Pandas DataFrame 进行排序?
    如何按多列升序和降序对 Pandas DataFrame 进行排序?
    按多列对 Pandas Dataframe 进行排序按多列对 Pandas Dataframe 进行排序是数据分析中的常见操作。考虑一个包含“a”、“b”和“c”列的数据框。要按“b”列升序和“c”列降序对此数据框进行排序,请按照下列步骤操作:从 Pandas 版本 0.17.0 开始,排序方法已被...
    编程 发布于2024-12-22
  • 在 Go 中使用 WebSocket 进行实时通信
    在 Go 中使用 WebSocket 进行实时通信
    构建需要实时更新的应用程序(例如聊天应用程序、实时通知或协作工具)需要一种比传统 HTTP 更快、更具交互性的通信方法。这就是 WebSockets 发挥作用的地方!今天,我们将探讨如何在 Go 中使用 WebSocket,以便您可以向应用程序添加实时功能。 在这篇文章中,我们将介绍: WebSoc...
    编程 发布于2024-12-22

免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。

Copyright© 2022 湘ICP备2022001581号-3