Python执行时间计算方法以及优化总结

python脚本运行时间远远大于python脚本中统计的计算时间,所以本文将为大家分享就几个Python执行时间计算方法以及优化,感兴趣的可以了解一下!

Python执行时间计算方法以及优化总结

一、时间不一致的猜想

python脚本运行时间远远大于python脚本中统计的计算时间

猜想:

1.python中用到的是py2neo的写数据异步,阻塞进程运行;

2.python脚本使用统计时间的方式是time.clock(),而这种方式统计的是CPU的执行时间,不是程序的执行时间。

程序执行时间 = CPU运行时间 + IO时间 + 休眠或等待时间

二、原因探索

1.方法一

import asyncio
import datetime
starttime = datetime.datetime.now()
# long running
# do something other

async def sayhi():
print("你好,若竹")
await asyncio.sleep(10)
print("用余生去守护")

asyncio.run(sayhi())


endtime = datetime.datetime.now()
print(("程序运行时间为:")+ str((endtime-starttime).seconds)+"秒")

输出:

你好,若竹用余生去守护程序运行时间为:10秒

datetime.datetime.now()获取的是当前日期,在程序执行结束之后,这个方式获得的时间值为程序执行的时间。

2.方法二

import asyncio
import datetime
import time

starttime = time.time()
# long running
# do something other

async def sayhi():
print("你好,若竹")
await asyncio.sleep(10)
print("用余生去守护")

asyncio.run(sayhi())

endtime = time.time()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

你好,若竹用余生去守护程序运行时间为:10.002257108688354秒

time.time()获取自纪元以来的当前时间(以秒为单位)。如果系统时钟提供它们,则可能存在秒的分数,所以这个地方返回的是一个浮点型类型。这里获取的也是程序的执行时间。

3.方法三

import asyncio
import datetime
import time

starttime = time.clock()
# long running
# do something other

async def sayhi():
print("你好,若竹")
await asyncio.sleep(10)
print("用余生去守护")

asyncio.run(sayhi())

endtime = time.clock()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

.\py_study.py:807: DeprecationWarning: time.clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time.perf_counter or time.process_time instead starttime = time.clock()你好,若竹用余生去守护.\py_study.py:818: DeprecationWarning: time.clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time.perf_counter or time.process_time instead endtime = time.clock()程序运行时间为:10.0219916秒

Deprecation Warning: time. clock has been deprecated in Python 3.3 and will be removed from Python 3.8: use time. perf_counter or time. process_time instead

弃用警告:时间。clock在Python 3.3中已弃用,并将从Python 3.8中移除:使用time。perf_counter或时间。process_time代替。

代码如下:

import asyncio
import datetime
import time

starttime = time.perf_counter()
# long running
# do something other

async def sayhi():
print("你好,若竹")
await asyncio.sleep(10)
print("用余生去守护")

asyncio.run(sayhi())

endtime = time.perf_counter()
print("程序运行时间为:"+ str(float(endtime-starttime))+"秒")

输出:

你好,若竹用余生去守护程序运行时间为:10.060287599999999秒

三、python 运行效率慢的原因

1.简介

编程语言的效率一方面指开发效率,即程序员完成编码所需的时间,另一方面是运行效率,即计算任务所需的时间。编码效率和运行效率往往很难兼顾。

2.运行效率慢的原因

1.python 是动态语言,造成运行时的不确定性影响运行效率;

动态语言是一类在运行时可以改变其结构的语言,如新的函数、对象、代码可以被引入,已有的函数可以被删除或其他结构上的变化等,该类语言更具有活性,但是不可避免的因为运行时的不确定性也影响运行效率。数据的比较和转换类型的开销很大,每次读取、写入或引用一个变量,都要检查类型。很难优化一种极具动态性的语言。Python的许多替代语言之所以快得多,原因在于它们为了性能在灵活性方面作出了牺牲。

2.python 是解释执行,不支持JIT(just in time compiler);

相比于C语言编译性语言编写的程序,Python是解释执行语言,其运行过程是Python运行文件程序时,Python解释器将源代码转换为字节码,然后再由Python解释器来执行这些字节码。其每次运行都要进行转换成字节码,然后再由虚拟机把字节码转换成机器语言,最后才能在硬件上运行,与编译性语言相比,其过程更复杂,性能肯定会受影响。

3.python 中一切皆对象,每个对象都需要维护引用计数,增加额外工作;

Python是一门面向对象的编程语言,其设计理念是一切皆是对象,如数字、字符串、元组、列表、字典、函数、方法、类、模块等都是对象,包括代码,每个对象都需要维护引用计数,因此,增加了额外工作,影响了性能。

4.python GIL,全局解释器锁导致无法实现真正的并发;

GIL是Python最为诟病的一点,因为GIL,Python中的多线程并不能真正的并发,即使在单线程,GIL也会带来很大的性能影响,因为python每执行100个opcode就会尝试线程的切换,因此,影响Python运行效率。

5.垃圾回收机制,会中断正在执行的程序,造成所谓的卡顿;

Python采用标记和分代的垃圾回收策略,每次垃圾回收的时候都会中断正在执行的程序,造成所谓的顿卡,影响运行效率。

四、python 优化

1.优化算法:时间复杂度

算法的时间复杂度对程序的执行效率影响最大,在python 中可以通过选择合适的数据结构来优化时间复杂度,如list和set查找某一个元素的时间复杂度分别是O(n)和O(1).不同的场景有不同的优化方式,总的来说,一般有分治,分支界限,贪心,动态规划等。

20减少冗余数据

如用上三角或下三角的方式去保存一个大的对称矩阵。在0元素占大多数的矩阵里使用稀疏矩阵表示。

3.合理使用copy与deepcopy

对于dict和list等数据结构的对象,直接赋值使用的是引用的方式。而有些情况下需要复制整个对象,这时可以使用copy包里的copy和deepcopy,这两个函数的不同之处在于后者是递归复制的。效率也不一样:(以下程序在ipython中运行)

4.使用dict或set查找元素

5.合理使用生成器(generator)和yield

6.优化循环

7.优化包含多个判断表达式的顺序

8.使用join合并迭代器中的字符串

9.选择合适的格式化字符方式

10.不借助中间变量交换两个变量的值

11.使用if is

12.使用级联比较x < y < z

13.while 1 比 while True 更快

14.使用**而不是pow

15.使用 cProfile, cStringIO 和 cPickle等用c实现相同功能(分别对应profile, StringIO, pickle)的包

16.使用最佳的反序列化方式

17.使用C扩展(Extension)

18.并行编程

19.终级大杀器:PyPy

20.使用性能分析工具