」工欲善其事,必先利其器。「—孔子《論語.錄靈公》
首頁 > 程式設計 > 比較優化如何讓 Python 排序更快

比較優化如何讓 Python 排序更快

發佈於2024-11-02
瀏覽:717

在本文中,术语 Python 和 CPython(该语言的参考实现)可以互换使用。本文专门讨论 CPython,不涉及 Python 的任何其他实现。

Python 是一种美丽的语言,它允许程序员用简单的术语表达他们的想法,而将实际实现的复杂性抛在脑后。

它抽象出来的事情之一就是排序。

“Python中排序是如何实现的?”这个问题你可以轻松找到答案。这几乎总是回答另一个问题:“Python 使用什么排序算法?”。

然而,这通常会留下一些有趣的实现细节。

有一个实现细节我认为讨论得不够充分,尽管它是七年前在 python 3.7 中引入的:

sorted() 和 list.sort() 已针对常见情况进行了优化,速度提高了 40-75%。 (由 Elliot Gorokhovsky 在 bpo-28685 中贡献。)

但是在我们开始之前...

简要重新介绍 Python 中的排序

当你需要在python中对列表进行排序时,你有两个选择:

  • 列表方法:list.sort(*, key=None, reverse=False),对给定列表进行就地排序
  • 内置函数:sorted(iterable/*key=Nonereverse= False),返回排序列表而不修改其参数

如果需要对任何其他内置迭代进行排序,则无论作为参数传递的迭代或生成器的类型如何,都只能使用排序。

sorted 总是返回一个列表,因为它内部使用了 list.sort。

这是用纯 python 重写的 CPython 排序 C 实现的大致等效项:

def sorted(iterable: Iterable[Any], key=None, reverse=False):
    new_list = list(iterable)
    new_list.sort(key=key, reverse=reverse)
    return new_list

是的,就这么简单。

Python 如何使排序更快

正如 Python 的内部排序文档所说:

有时可以用更快的特定类型比较来代替较慢的通用 PyObject_RichCompareBool

简单来说,这个优化可以描述如下:

当列表是同质的时,Python 使用特定于类型的比较函数

什么是同质列表?

同类列表是仅包含一种类型的元素的列表。

例如:

homogeneous = [1, 2, 3, 4]

另一方面,这不是一个同类列表:

heterogeneous = [1, "2", (3, ), {'4': 4}]

有趣的是,Python官方教程指出:

列表是可变的,并且它们的元素通常是同质的并且通过迭代列表来访问

关于元组的旁注

同一个教程指出:

元组是不可变的,并且通常包含元素的异构序列

因此,如果您想知道何时使用元组或列表,这里有一条经验法则:
如果元素具有相同类型,则使用列表,否则使用元组

等等,那么数组呢?

Python 实现了数值的同构数组容器对象。

但是,从 python 3.12 开始,数组没有实现自己的排序方法。

对它们进行排序的唯一方法是使用排序,它在内部从数组中创建一个列表,并删除该过程中任何与类型相关的信息。

为什么使用特定于类型的比较函数有帮助?

Python 中的比较成本很高,因为 Python 在进行任何实际比较之前会执行各种检查。

以下是在 python 中比较两个值时底层发生的情况的简化解释:

  • Python 检查传递给比较函数的值是否不为 NULL
  • 如果值的类型不同,但右操作数是左操作数的子类型,Python 使用右操作数的比较函数,但相反(例如,它将使用 )
  • 如果值具有相同类型或不同类型但都不是另一个的子类型:
    • Python将首先尝试左操作数的比较函数
    • 如果失败,它将尝试右操作数的比较函数,但相反。
    • 如果也失败,并且比较是相等或不相等,它将返回身份比较(对于引用内存中同一对象的值为 True)
    • 否则,会引发 TypeError

How Comparison Optimization Makes Python Sorting Faster

除此之外,每种类型自己的比较函数都会实现额外的检查。

例如,在比较字符串时,Python 会检查字符串字符是否占用超过一个字节的内存,而 float 比较会以不同的方式比较一对 float 以及一个 float 和一个 int。

更详细的解释和图表可以在这里找到:Adding Data-Aware Sort Optimizations to CPython

在引入此优化之前,每次在排序过程中比较两个值时,Python 都必须执行所有这些各种类型特定和非类型特定检查。

提前检查列表元素的类型

除了迭代列表并检查每个元素之外,没有什么神奇的方法可以知道列表中的所有元素是否属于同一类型。

Python 几乎完全做到了这一点 - 检查传递给 list.sort 或作为参数排序的 key 函数生成的排序键的类型

构建键列表

如果提供了 key 函数,Python 使用它来构造键列表,否则它使用列表自己的值作为排序键。

以一种过于简单的方式,键构造可以表示为以下 python 代码。

if key is None:
    keys = list_items
else:
    keys = [key(list_item) for list_item in list_item]

注意,CPython 内部使用的键是 CPython 对象引用的 C 数组,而不是 Python 列表

一旦构造了键,Python 就会检查它们的类型。

检查密钥类型

检查键的类型时,Python 的排序算法会尝试确定键数组中的所有元素是否都是 str、int、float 或 tuple,或者只是同一类型,但对基本类型有一些限制。

值得注意的是,检查键的类型会预先增加一些额外的工作。 Python 这样做是因为它通常可以通过加快实际排序速度来获得回报,特别是对于较长的列表。

整型约束

int 应该是bignum

实际上,这意味着要使此优化发挥作用,整数应小于 2^30 - 1(这可能因平台而异)

作为旁注,这里有一篇很棒的文章,解释了 Python 如何处理大整数:# How python Implements super long integers?

强度约束

字符串中的所有字符应占用小于 1 个字节的内存,这意味着它们应由 0-255 范围内的整数值表示

实际上,这意味着字符串应仅包含拉丁字符、空格和 ASCII 表中的一些特殊字符。

浮动约束

为了使此优化发挥作用,浮点数没有任何限制。

元组约束

  • 仅检查第一个元素的类型
  • 这个元素本身不应该是一个元组
  • 如果所有元组的第一个元素具有相同的类型,则比较优化将应用于它们
  • 所有其他元素照常比较

我如何应用这些知识?

首先,了解一下是不是很有趣?

其次,在 Python 开发者面试中提及这些知识可能是一个很好的接触。

对于实际的代码开发来说,了解这个优化可以帮助你提高排序性能。

通过明智地选择值类型进行优化

根据引入此优化的 PR 中的基准,对仅由浮点数组成的列表进行排序,而不是对末尾带有单个整数的浮点数列表进行排序,速度几乎快两倍。

所以当需要优化时,像这样转换列表

floats_and_int = [1.0, -1.0, -0.5, 3]

进入看起来像这样的列表

just_floats = [1.0, -1.0, -0.5, 3.0] # note that 3.0 is a float now

可能会提高性能。

使用对象列表的键进行优化

虽然 Python 的排序优化适用于内置类型,但了解它如何与自定义类交互也很重要。

对自定义类的对象进行排序时,Python 依赖于您定义的比较方法,例如 __lt__(小于)或 __gt__(大于)。

但是,特定于类型的优化不适用于自定义类。
Python 将始终对这些对象使用通用比较方法。

这是一个例子:

class MyClass:
    def __init__(self, value): 
        self.value = value 

    def __lt__(self, other): 
        return self.value 



在这种情况下,Python 将使用 __lt__ 方法进行比较,但它不会从特定于类型的优化中受益。排序仍然可以正常工作,但可能不如排序内置类型那么快。

如果在对自定义对象进行排序时性能至关重要,请考虑使用返回内置类型的关键函数:

sorted_list = sorted(my_list, key=lambda x: x.value)

后记

过早的优化,尤其是在 Python 中,是邪恶的。

您不应该围绕 CPython 中的特定优化来设计整个应用程序,但了解这些优化是有好处的:充分了解您的工具是成为更熟练的开发人员的一种方式。

留意此类优化可以让您在情况需要时利用它们,特别是当性能变得至关重要时:

考虑一个场景,其中您的排序基于时间戳:使用同质整数列表(Unix 时间戳)而不是日期时间对象可以有效地利用此优化。

但是,重要的是要记住,代码的可读性和可维护性应优先于此类优化。

虽然了解这些低级细节很重要,但欣赏 Python 的高级抽象也同样重要,正是这些抽象使其成为一种高效的语言。

Python 是一门令人惊叹的语言,探索其深度可以帮助您更好地理解它并成为一名更好的 Python 程序员。

版本聲明 本文轉載於:https://dev.to/tilalis/how-comparison-optimization-makes-python-sorting-faster-25oj?1如有侵犯,請聯絡[email protected]刪除
最新教學 更多>
  • 為什麼sync.Once使用atomic.StoreUint32而不是標準分配?
    為什麼sync.Once使用atomic.StoreUint32而不是標準分配?
    sync.Once中的原子記憶體排序在探索sync.Once的原始程式碼時,我們偶然發現了使用atomic背後的原因。 StoreUint32 而不是像 o.done = 1 這樣的標準賦值。 Go 中的記憶體排序並發程式設計中的一個基本概念是記憶體排序,它確保共享內存在所有處理器上一致地觀察到存取...
    程式設計 發佈於2024-11-07
  • 為什麼無法在 PHP 中使用匿名函數初始化屬性?
    為什麼無法在 PHP 中使用匿名函數初始化屬性?
    使用匿名函數初始化屬性:為什麼以及如何? 如下面的程式碼片段所述,在類別聲明在 PHP 中觸發「解析錯誤:語法錯誤,意外的 T_FUNCTION」。然而,在建構函數中將函數指派給屬性是可能的,如第二個片段所示。 // Property initialization with anonymous fu...
    程式設計 發佈於2024-11-07
  • [Flatiron SE] 第 24 天
    [Flatiron SE] 第 24 天
    大家好,在這裡吃飯, 這將是我的第一篇部落格文章!我是應熨斗學校出色的老師的要求這樣做的。我將嘗試每天發表一篇部落格文章,記錄我在編碼過程中的發展。您好,歡迎,以及將來閱讀本文的雇主! 現在我需要說實話,這實際上不是我使用熨斗的「第一天」。我實際上是在兩天前的星期一開始的。但我相信今天絕對是我真正...
    程式設計 發佈於2024-11-07
  • 保護 JavaScript 應用程式的安全:常見漏洞以及如何避免它們
    保護 JavaScript 應用程式的安全:常見漏洞以及如何避免它們
    JavaScript 是最流行的 Web 开发语言之一,但由于其广泛使用,它也是攻击者的常见目标。保护 JavaScript 应用程序的安全对于避免可能导致数据被盗、用户帐户受损等安全漏洞至关重要。本文将探讨 JavaScript 应用程序中的一些常见漏洞并提供缓解这些漏洞的策略。 ...
    程式設計 發佈於2024-11-07
  • 為什麼我在 Go 中收到「語法錯誤:Else 之前出現意外的分號」?
    為什麼我在 Go 中收到「語法錯誤:Else 之前出現意外的分號」?
    Go 中Else 之前意外的分號:詳細解釋你的Go 碼在第21 行遇到異常錯誤:「syntax error:unexpected分號或換行符號之前。 這裡的核心問題源自於Go的自動分號插入規則。通常,Go 中分號是可選的;但是,編譯器會自動將它們插入到某些行的末尾以保持語法完整性。其中一個這樣的情況...
    程式設計 發佈於2024-11-07
  • 如何從 Flask 中的 URL 中提取命名參數?
    如何從 Flask 中的 URL 中提取命名參數?
    從Flask 中的URL 中提取命名參數假設您有一個類似http://10.1.1.1:5000/login? username 的URL =alex&password=pw1 您希望Flask 應用程式處理。若要存取問號後指定的參數,請使用 request.args,而不是 request.for...
    程式設計 發佈於2024-11-07
  • 一級抽象:簡潔函數的關鍵
    一級抽象:簡潔函數的關鍵
    曾經在看過一個函數後,感到迷失在它的複雜性中嗎?讓我們探討乾淨程式碼的基本原則:函數應該只維護一個抽象層級。 這是在 Web 應用程式中建立使用者的真實範例: // ❌ A function doing too many things at different abstraction levels...
    程式設計 發佈於2024-11-07
  • 在 JavaScript 中編寫簡潔且可維護的程式碼的最佳實踐
    在 JavaScript 中編寫簡潔且可維護的程式碼的最佳實踐
    干净且可维护的代码对于任何软件项目的长期成功和可扩展性至关重要。它改善了团队成员之间的协作,减少了错误的可能性,并使代码更易于理解、测试和维护。在这篇博文中,我们将探讨一些在 JavaScript 中编写干净且可维护的代码的最佳实践,以及说明每种实践的代码示例。 1. 一致的代码格式...
    程式設計 發佈於2024-11-07
  • 促進軟體開發成功:整合跨學科技能以獲得更好的結果
    促進軟體開發成功:整合跨學科技能以獲得更好的結果
    In today's world of software development, success is more than just technical know-how. Teams that work well together and mix different skills in vari...
    程式設計 發佈於2024-11-07
  • 如何修復Go模組導入過時的套件版本?
    如何修復Go模組導入過時的套件版本?
    Go 模組匯入過時的套件版本當嘗試使用Go 模組將新套件合併到專案中時,您可能會遇到以下問題:儘管該套件被標記為“最新”,但模組系統會檢索該套件的過時版本。這個過時的版本可能缺少程式碼所需的功能,從而導致編譯或執行時錯誤。 解決方案:在 go.mod 檔案中指定版本Go 模組系統可讓您指定要匯入的套...
    程式設計 發佈於2024-11-07
  • WatchYourLAN - 輕量級網路 IP 掃描器
    WatchYourLAN - 輕量級網路 IP 掃描器
    WatchYourLAN的主要特點 找到新主機時發送通知 監控主機線上/離線歷史記錄 保留網路中所有主機的清單 發送資料到InfluxDB2製作Grafana儀表板 v2 有什麼新功能? 基礎API 匯出到 InfluxDB2 SQLite 與 PostgreSQL...
    程式設計 發佈於2024-11-07
  • 掌握 React Native 中的深度連結和通用連結:OpenGraph Share 和 Node.js 集成
    掌握 React Native 中的深度連結和通用連結:OpenGraph Share 和 Node.js 集成
    设想 假设您有一个名为 ShopEasy 的电子商务应用程序,并且您希望点击电子邮件、消息或社交媒体中的产品链接的用户被直接重定向到应用程序中的相关产品页面,而不是网站。 第1步:在nodejs服务器中进行Opengraph配置以进行链接预览: Open Graph...
    程式設計 發佈於2024-11-07
  • 如何在不使用“eval”的情況下安全地解析“寬鬆”JSON?
    如何在不使用“eval”的情況下安全地解析“寬鬆”JSON?
    在沒有風險評估的情況下解析「輕鬆」的JSONJSON 是廣泛使用的資料交換格式,需要帶引號的鍵的嚴格語法。但是,某些應用程式可能會遇到帶有不帶引號的鍵的“寬鬆”JSON。由於安全風險,不鼓勵使用 eval 解析此類資料。 避免邪惡的 Evaleval 的替代方法是基於正則表達式的方法,該方法在解析之...
    程式設計 發佈於2024-11-07
  • 透過sponge+dtm快速輕鬆實現高性能的電商系統
    透過sponge+dtm快速輕鬆實現高性能的電商系統
    This article demonstrates how to use the Sponge framework to quickly build a simplified high-performance e-commerce system, implementing flash sale an...
    程式設計 發佈於2024-11-07
  • 什麼是 Java 中的關閉鉤子以及如何有效地使用它?
    什麼是 Java 中的關閉鉤子以及如何有效地使用它?
    1. 了解關閉鉤子 關閉鉤子是 Java 中的一種特殊構造,允許您註冊一個線程,該線程將在 Java 虛擬機 (JVM) 關閉時執行。這可以由各種事件觸發,例如使用者中斷 (Ctrl C)、系統關閉或編程終止。 1.1 關閉鉤子如何運作 當 JVM 啟動時,它會建...
    程式設計 發佈於2024-11-07

免責聲明: 提供的所有資源部分來自互聯網,如果有侵犯您的版權或其他權益,請說明詳細緣由並提供版權或權益證明然後發到郵箱:[email protected] 我們會在第一時間內為您處理。

Copyright© 2022 湘ICP备2022001581号-3