在本文中,术语 Python 和 CPython(该语言的参考实现)可以互换使用。本文专门讨论 CPython,不涉及 Python 的任何其他实现。
Python 是一种美丽的语言,它允许程序员用简单的术语表达他们的想法,而将实际实现的复杂性抛在脑后。
它抽象出来的事情之一就是排序。
“Python中排序是如何实现的?”这个问题你可以轻松找到答案。这几乎总是回答另一个问题:“Python 使用什么排序算法?”。
然而,这通常会留下一些有趣的实现细节。
有一个实现细节我认为讨论得不够充分,尽管它是七年前在 python 3.7 中引入的:
sorted() 和 list.sort() 已针对常见情况进行了优化,速度提高了 40-75%。 (由 Elliot Gorokhovsky 在 bpo-28685 中贡献。)
但是在我们开始之前...
当你需要在python中对列表进行排序时,你有两个选择:
如果需要对任何其他内置迭代进行排序,则无论作为参数传递的迭代或生成器的类型如何,都只能使用排序。
sorted 总是返回一个列表,因为它内部使用了 list.sort。
这是用纯 python 重写的 CPython 排序 C 实现的大致等效项:
def sorted(iterable: Iterable[Any], key=None, reverse=False): new_list = list(iterable) new_list.sort(key=key, reverse=reverse) return new_list
是的,就这么简单。
正如 Python 的内部排序文档所说:
有时可以用更快的特定类型比较来代替较慢的通用 PyObject_RichCompareBool
简单来说,这个优化可以描述如下:
当列表是同质的时,Python 使用特定于类型的比较函数
同类列表是仅包含一种类型的元素的列表。
例如:
homogeneous = [1, 2, 3, 4]
另一方面,这不是一个同类列表:
heterogeneous = [1, "2", (3, ), {'4': 4}]
有趣的是,Python官方教程指出:
列表是可变的,并且它们的元素通常是同质的并且通过迭代列表来访问
同一个教程指出:
元组是不可变的,并且通常包含元素的异构序列
因此,如果您想知道何时使用元组或列表,这里有一条经验法则:
如果元素具有相同类型,则使用列表,否则使用元组
Python 实现了数值的同构数组容器对象。
但是,从 python 3.12 开始,数组没有实现自己的排序方法。
对它们进行排序的唯一方法是使用排序,它在内部从数组中创建一个列表,并删除该过程中任何与类型相关的信息。
Python 中的比较成本很高,因为 Python 在进行任何实际比较之前会执行各种检查。
以下是在 python 中比较两个值时底层发生的情况的简化解释:
除此之外,每种类型自己的比较函数都会实现额外的检查。
例如,在比较字符串时,Python 会检查字符串字符是否占用超过一个字节的内存,而 float 比较会以不同的方式比较一对 float 以及一个 float 和一个 int。
更详细的解释和图表可以在这里找到:Adding Data-Aware Sort Optimizations to CPython
在引入此优化之前,每次在排序过程中比较两个值时,Python 都必须执行所有这些各种类型特定和非类型特定检查。
除了迭代列表并检查每个元素之外,没有什么神奇的方法可以知道列表中的所有元素是否属于同一类型。
Python 几乎完全做到了这一点 - 检查传递给 list.sort 或作为参数排序的 key 函数生成的排序键的类型
如果提供了 key 函数,Python 使用它来构造键列表,否则它使用列表自己的值作为排序键。
以一种过于简单的方式,键构造可以表示为以下 python 代码。
if key is None: keys = list_items else: keys = [key(list_item) for list_item in list_item]
注意,CPython 内部使用的键是 CPython 对象引用的 C 数组,而不是 Python 列表
一旦构造了键,Python 就会检查它们的类型。
检查键的类型时,Python 的排序算法会尝试确定键数组中的所有元素是否都是 str、int、float 或 tuple,或者只是同一类型,但对基本类型有一些限制。
值得注意的是,检查键的类型会预先增加一些额外的工作。 Python 这样做是因为它通常可以通过加快实际排序速度来获得回报,特别是对于较长的列表。
int 应该不是bignum
实际上,这意味着要使此优化发挥作用,整数应小于 2^30 - 1(这可能因平台而异)
作为旁注,这里有一篇很棒的文章,解释了 Python 如何处理大整数:# How python Implements super long integers?
字符串中的所有字符应占用小于 1 个字节的内存,这意味着它们应由 0-255 范围内的整数值表示
实际上,这意味着字符串应仅包含拉丁字符、空格和 ASCII 表中的一些特殊字符。
为了使此优化发挥作用,浮点数没有任何限制。
首先,了解一下是不是很有趣?
其次,在 Python 开发者面试中提及这些知识可能是一个很好的接触。
对于实际的代码开发来说,了解这个优化可以帮助你提高排序性能。
根据引入此优化的 PR 中的基准,对仅由浮点数组成的列表进行排序,而不是对末尾带有单个整数的浮点数列表进行排序,速度几乎快两倍。
所以当需要优化时,像这样转换列表
floats_and_int = [1.0, -1.0, -0.5, 3]
进入看起来像这样的列表
just_floats = [1.0, -1.0, -0.5, 3.0] # note that 3.0 is a float now
可能会提高性能。
虽然 Python 的排序优化适用于内置类型,但了解它如何与自定义类交互也很重要。
对自定义类的对象进行排序时,Python 依赖于您定义的比较方法,例如 __lt__(小于)或 __gt__(大于)。
但是,特定于类型的优化不适用于自定义类。
Python 将始终对这些对象使用通用比较方法。
这是一个例子:
class MyClass: def __init__(self, value): self.value = value def __lt__(self, other): return self.value在这种情况下,Python 将使用 __lt__ 方法进行比较,但它不会从特定于类型的优化中受益。排序仍然可以正常工作,但可能不如排序内置类型那么快。
如果在对自定义对象进行排序时性能至关重要,请考虑使用返回内置类型的关键函数:
sorted_list = sorted(my_list, key=lambda x: x.value)后记
过早的优化,尤其是在 Python 中,是邪恶的。
您不应该围绕 CPython 中的特定优化来设计整个应用程序,但了解这些优化是有好处的:充分了解您的工具是成为更熟练的开发人员的一种方式。
留意此类优化可以让您在情况需要时利用它们,特别是当性能变得至关重要时:
考虑一个场景,其中您的排序基于时间戳:使用同质整数列表(Unix 时间戳)而不是日期时间对象可以有效地利用此优化。
但是,重要的是要记住,代码的可读性和可维护性应优先于此类优化。
虽然了解这些低级细节很重要,但欣赏 Python 的高级抽象也同样重要,正是这些抽象使其成为一种高效的语言。
Python 是一门令人惊叹的语言,探索其深度可以帮助您更好地理解它并成为一名更好的 Python 程序员。
免责声明: 提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发到邮箱:[email protected] 我们会第一时间内为您处理。
Copyright© 2022 湘ICP备2022001581号-3