手把手教你用装饰器扩展 Python 计时器

这是我们手把手教你实现 Python 定时器的第三篇文章。前两篇：分别是手把手教你实现一个 Python 计时器​，和用上下文管理器扩展 Python 计时器​，使得我们的 Timer 类方便用、美观实用。,,但我们并不满足于此，仍然有一个用例可以进一步简化它。假设我们需要跟踪代码库中一个给定函数所花费的时间。使用上下文管理器，基本上有两种不同的选择：,当我们在一个py文件里多次调用函数 do_something()，那么这将会变得非常繁琐并且难以维护。,Timer​ 只需要在一个地方添加，但这会为do_something()的整个定义增加一个缩进级别。,更好的解决方案是使用 Timer 作为装饰器。装饰器是用于修改函数和类行为的强大构造。,装饰器是包装另一个函数以修改其行为的函数。你可能会有疑问，这怎么实现呢？其实函数是 Python 中的first-class 对象，换句话说，函数可以以变量的形式传递给其他函数的参数，就像任何其他常规对象一样。因此此处有较大的灵活性，也是 Python 几个最强大功能的基础。,我们首先创建第一个示例，一个什么都不做的装饰器：,首先注意这个turn_off()​只是一个常规函数。之所以成为装饰器，是因为它将一个函数作为其唯一参数并返回另一个函数。我们可以使用turn_off()来修改其他函数，例如：,代码行 print = turn_off(print)​ 用 turn_off()​ 装饰器装饰了 print​ 语句。实际上，它将函数 print()​ 替换为匿名函数 lambda *args, **kwargs: None​ 并返回 turn_off()。匿名函数 lambda 除了返回 None 之外什么都不做。,要定义更多丰富的装饰器，需要了解内部函数。内部函数是在另一个函数内部定义的函数，它的一种常见用途是创建函数工厂：,multiplier()​ 是一个内部函数，在 create_multiplier()​ 内部定义。注意可以访问 multiplier()​ 内部的因子，而 multiplier()​未在 create_multiplier() 外部定义：,相反，可以使用create_multiplier()创建新的 multiplier 函数，每个函数都基于不同的参数factor：,同样，可以使用内部函数来创建装饰器。装饰器是一个返回函数的函数：,triple() ​是一个装饰器，因为它是一个期望函数 func()​ 作为其唯一参数并返回另一个函数 wrapper_triple()​ 的函数。注意 triple() 本身的结构：,这是种定义装饰器的一般模式（注意内部函数的部分）：,接下来的代码中，knock() 是一个返回单词 Penny 的函数，将其传给triple() 函数，并看看输出结果是什么。,我们都知道，文本字符串与数字相乘，是字符串的一种重复形式，因此字符串 'Penny' 重复了 3 次。可以认为，装饰发生在knock = triple(knock)。,上述方法虽然实现了装饰器的功能，但似乎有点笨拙。PEP 318 引入了一种更方便的语法来应用装饰器。下面的 knock() 定义与上面的定义相同，但装饰器用法不同。,@​ 符号用于应用装饰器，@triple​ 表示 triple() 应用于紧随其后定义的函数。,Python 标准库中定义的装饰器方法之一是：@functools.wraps。这在定义你自己的装饰器时非常有用。前面说过，装饰器是用另一个函数替换了一个函数，会给你的函数带来一个微妙的变化：,@triple​ 装饰了 knock()​，然后被 wrapper_triple()​ 内部函数替换，被装饰的函数的名字会变成装饰器函数，除了名称，还有文档字符串和其他元数据都将会被替换。但有时，我们并不总是想将被修饰的函数的所有信息都被修改了。此时 @functools.wraps 正好解决了这个问题，如下所示：,使用 @triple 的这个新定义保留元数据：,注意knock()​ 即使在被装饰之后，也同样保留了它的原有函数名称。当定义装饰器时，使用 @functools.wraps 是一种不错的选择，可以为大多数装饰器使用的如下模板：,在本节中，云朵君将和大家一起学习如何扩展 Python 计时器，并以装饰器的形式使用它。接下来我们从头开始创建 Python 计时器装饰器。,根据上面的模板，我们只需要决定在调用装饰函数之前和之后要做什么。这与进入和退出上下文管理器时的注意事项类似。在调用修饰函数之前启动 Python 计时器，并在调用完成后停止 Python 计时器。可以按如下方式定义 @timer 装饰器：,可以按如下方式应用 @timer：,回想一下，还可以将装饰器应用于先前定义的下载数据的函数：,使用装饰器的一个优点是只需要应用一次，并且每次都会对函数计时：,虽然@timer​ 顺利完成了对目标函数的定时。但从某种意义上说，你又回到了原点，因为该装饰器 @timer​ 失去了前面定义的类 ​Timer​ 的灵活性或便利性。换句话说，我们需要将 ​Timer​ 类表现得像一个装饰器。,现在我们似乎已经将装饰器用作应用于其他函数的函数，但其实不然，因为装饰器必须是可调用的。Python中有许多可调用的类型，可以通过在其类中定义特殊的.__call__()方法来使自己的对象可调用。以下函数和类的行为类似：,这里，square ​是一个可调用的实例，可以对数字求平方，就像square()第一个示例中的函数一样。,我们现在向现有Timer类添加装饰器功能，首先需要 import functools。,在之前定义的上下文管理器 Timer ，给我们带来了不少便利。而这里使用的装饰器，似乎更加方便。,有一种更直接的方法可以将 Python 计时器变成装饰器。其实上下文管理器和装饰器之间的一些相似之处：它们通常都用于在执行某些给定代码之前和之后执行某些操作。,基于这些相似之处，在 python 标准库中定义了一个名为 ContextDecorator​ 的 mixin​ 类，它可以简单地通过继承 ContextDecorator 来为上下文管理器类添加装饰器函数。,当以这种方式使用 ContextDecorator​ 时，无需自己实现 .__call__()，因此我们可以大胆地将其从 Timer 类中删除。,接下来，再最后一次重改 download_data.py 示例，使用 Python 计时器作为装饰器：,我们与之前的写法进行比较，唯一的区别是第 3 行的 Timer 的导入和第 4 行的 @Timer()  的应用。使用装饰器的一个显着优势是它们通常很容易调用。,但是，装饰器仍然适用于整个函数。这意味着代码除了记录了下载数据所需的时间外，还考虑了保存数据所需的时间。运行脚本：,从上面打印出来的结果可以看到，代码记录了下载数据和保持数据一共所需的时间。,当使用 Timer 作为装饰器时，会看到与使用上下文管理器类似的优势：,然而，装饰器不如上下文管理器灵活，只能将它们应用于完整函数。,这里展开下面的代码块以查看 Python 计时器timer.py的完整源代码。,可以自己使用代码，方法是将其保存到一个名为的文件中timer.py并将其导入：,PyPI 上也提供了 Timer，因此更简单的选择是使用 pip 安装它：,注意，PyPI 上的包名称是codetiming​，安装包和导入时都需要使用此名称Timer：,除了名称和一些附加功能之外，codetiming.Timer​ 与 timer.Timer​ 完全一样。总而言之，可以通过三种不同的方式使用 Timer：,1. 作为一个类：,2. 作为上下文管理器：,3. 作为装饰器：,这种 Python 计时器主要用于监控代码在单个关键代码块或函数上所花费的时间。,Python定时器装饰器已经学习完毕了，接下来是总结了一些其他的 Python 定时器函数，如果你对其不太感兴趣，可以直接跳到最后。,使用 Python 对代码进行计时有很多选择。这里我们学习了如何创建一个灵活方便的类，可以通过多种不同的方式使用该类。对 PyPI 的快速搜索发现，已经有许多项目提供 Python 计时器解决方案。,在本节中，我们首先了解有关标准库中用于测量时间的不同函数的更多信息，包括为什么 perf_counter() 更好，然后探索优化代码的替代方案。,在本文之前，包括前面介绍python定时器的文章中，我们一直在使用 perf_counter() 来进行实际的时间测量，但是 Python 的时间库附带了几个其他也可以测量时间的函数。这里有一些:,拥有多个函数的一个原因是 Python 将时间表示为浮点数。浮点数本质上是不准确的。之前可能已经看到过这样的结果：,Python 的 Float 遵循 IEEE 754 浮点算术标准[5]，该标准以 64 位表示所有浮点数。因为浮点数有无限多位数，即不能用有限的位数来表达它们。,考虑time()​这个函数的主要目的，是它表示的是现在的实际时间。它以自给定时间点（称为纪元）以来的秒数来表示函数。time()​返回的数字很大，这意味着可用的数字较少，因而分辨率会受到影响。简而言之， time()无法测量纳秒级差异：,一纳秒是十亿分之一秒。上面代码中，将纳秒添加到参数 t ，他并不会影响结果。与 time() 不同的是，perf_counter() 使用一些未定义的时间点作为它的纪元，它可以使用更小的数字，从而获得更好的分辨率：,众所周知，将时间表示为浮点数是非常具有挑战的一件事，因此 Python 3.7 引入了一个新选项：每个时间测量函数现在都有一个相应的 ​_ns​ 函数，它以 ​int​ 形式返回纳秒数，而不是以浮点数形式返回秒数。例如，time()​ 现在有一个名为 time_ns() 的纳秒对应项：,整数在 Python 中是无界的，因此 time_ns()​ 可以为所有永恒提供纳秒级分辨率。同样，perf_counter_ns() ​是 perf_counter() 的纳秒版本：,我们注意到，因为 perf_counter() ​已经提供纳秒级分辨率，所以使用 perf_counter_ns() 的优势较少。,注意： perf_counter_ns() ​仅在 Python 3.7 及更高版本中可用。在 Timer 类中使用了 perf_counter()。这样，也可以在较旧的 Python 版本上使用 Timer。,有两个函数time​不测量time.sleep时间：process_time()​和thread_time()。​通常希望Timer​能够测量代码所花费的全部时间，因此这两个函数并不常用。而函数 ​monotonic()，顾名思义，它是一个单调计时器，一个永远不会向后移动的 Python 计时器。,除了 time()​ 之外，所有这些函数都是单调的，如果调整了系统时间，它也随之倒退。在某些系统上，monotonic()​ 与 perf_counter()​ 的功能相同，可以互换使用。我们可以使用 time.get_clock_info() 获取有关 Python 计时器函数的更多信息：,注意，不同系统上的结果可能会有所不同。,PEP 418 描述了引入这些功能的一些基本原理。它包括以下简短描述：,在实际工作中，通常会想优化代码进一步提升代码性能，例如想知道将列表转换为集合的最有效方法。下面我们使用函数 set()​ 和直接花括号定义集合 {...} 进行比较，看看这两种方法哪个性能更优，此时需要使用 Python 计时器来比较两者的运行速度。,该测试结果表明直接花括号定义集合可能会稍微快一些，但其实这些结果非常不确定。如果重新运行代码，可能会得到截然不同的结果。因为这会受计算机的性能和计算机运行状态所影响：例如当计算机忙于其他任务时，就会影响我们程序的结果。,更好的方法是多次重复运行相同过程，并获取平均耗时，就能够更加精确地测量目标程序的性能大小。因此可以使用 timeit 标准库，它旨在精确测量小代码片段的执行时间。虽然可以从 Python 导入和调用 timeit.timeit() 作为常规函数，但使用命令行界面通常更方便。可以按如下方式对这两种变体进行计时：,timeit​ 自动多次调用代码以平均噪声测量。timeit​ 的结果证实 {*nums}​ 量比 set(nums) 快。,注意：在下载文件或访问数据库的代码上使用 timeit​ 时要小心。由于 timeit 会自动多次调用程序，因此可能会无意中向服务器发送请求！,最后，IPython 交互式 shell​ 和 Jupyter Notebook​ 使用 %timeit 魔术命令对此功能提供了额外支持：,同样，测量结果表明直接花括号定义集合更快。在 Jupyter Notebooks​ 中，还可以使用 %%timeit cell-magic 来测量运行整个单元格的时间。,timeit 非常适合对特定代码片段进行基准测试。但使用它来检查程序的所有部分并找出哪些部分花费的时间最多会非常麻烦。此时我们想到可以使用分析器。,cProfile 是一个分析器，可以随时从标准库中访问它。可以通过多种方式使用它，尽管将其用作命令行工具通常是最直接的：,此命令在打开分析器的情况下运行 download_data.py。将 cProfile 的输出保存在 download_data.prof 中，由 -o 选项指定。输出数据是二进制格式，需要专门的程序才能理解。同样，Python 在标准库中有一个选项 pstats！它可以在 .prof​ 文件上运行 pstats 模块会打开一个交互式配置文件统计浏览器。,要使用 pstats，请在提示符下键入命令。通常你会使用 sort​ 和 stats​ 命令，strip 可以获得更清晰的输出：,此输出显示总运行时间为 0.586 秒。它还列出了代码花费最多时间的十个函数。这里按累积时间 ( cumtime) 排序，这意味着当给定函数调用另一个函数时，代码会计算时间。,总时间 ( tottime​) 列表示代码在函数中花费了多少时间，不包括在子函数中的时间。要查找代码花费最多时间的位置，需要发出另一个sort命令：,可以使用 pstats​了解代码大部分时间花在哪里，然后尝试优化我们发现的任何瓶颈。还可以使用该工具更好地理解代码的结构。例如，被调用者和调用者命令将显示给定函数调用和调用的函数。,还可以研究某些函数。通过使用短语 timer​ 过滤结果来检查 Timer 导致的开销：,完成调查后，使用 quit​ 离开 pstats 浏览器。,如需更加深入了解更强大的配置文件数据接口，可以查看 KCacheGrind[8]。它使用自己的数据格式，也可以使用 pyprof2calltree[9] 从 cProfile 转换数据：,该命令将转换 download_data.prof​ 并打开 KCacheGrind 来分析数据。,这里为代码计时的最后一个选项是 line_profiler[10]。cProfile​ 可以告诉我们代码在哪些函数中花费的时间最多，但它不会深入显示该函数中的哪些行最慢，此时就需要 line_profiler 。,注意：还可以分析代码的内存消耗。这超出了本教程的范围，如果你需要监控程序的内存消耗，可以查看 memory-profiler[11] 。,行分析需要时间，并且会为我们的运行时增加相当多的开销。正常的工作流程是首先使用 cProfile​ 来确定要调查的函数，然后在这些函数上运行 line_profiler​。line_profiler 不是标准库的一部分，因此应该首先按照安装说明[12]进行设置。,在运行分析器之前，需要告诉它要分析哪些函数。可以通过在源代码中添加 @profile​ 装饰器来实现。例如，要分析 Timer.stop()​，在 timer.py 中添加以下内容：,注意，不需要导入profile配置文件，它会在运行分析器时自动添加到全局命名空间中。不过，我们需要在完成分析后删除该行。否则，会抛出一个 NameError 异常。,接下来，使用 kernprof 运行分析器，它是 line_profiler 包的一部分：,此命令自动将探查器数据保存在名为 download_data.py.lprof​ 的文件中。可以使用 line_profiler 查看这些结果：,首先，注意本报告中的时间单位是微秒（1e-06 s​）。通常，最容易查看的数字是 %Time，它告诉我们代码在每一行的函数中花费的总时间的百分比。,在本文中，我们尝试了几种不同的方法来将 Python 计时器添加到代码中：,我们还了解了为什么在对代码进行基准测试时应该更喜欢time.perf_counter()​而不是 time.time()，以及在优化代码时还有哪些其他有用的替代方法。,现在我们可以在自己的代码中添加Python计时器函数了！在日志中跟踪程序的运行速度将有助于监视脚本。