本篇文章給大家?guī)砹岁P(guān)于python的相關(guān)知識(shí)，其中主要總結(jié)介紹了一些提升Python使用性能的小技巧，包括了使用map進(jìn)行函數(shù)映射、使用set求交集等等，希望對(duì)大家有幫助。

推薦學(xué)習(xí)：python學(xué)習(xí)教程

如何測(cè)量程序的執(zhí)行時(shí)間

關(guān)于 Python 如何精確地測(cè)量程序的執(zhí)行時(shí)間，這個(gè)問題看起來簡(jiǎn)單其實(shí)很復(fù)雜，因?yàn)槌绦虻膱?zhí)行時(shí)間受到很多因素的影響，例如操作系統(tǒng)、Python 版本以及相關(guān)硬件（CPU 性能、內(nèi)存讀寫速度）等。在同一臺(tái)電腦上運(yùn)行相同版本的語言時(shí)，上述因素就是確定的了，但是程序的睡眠時(shí)間依然是變化的，且電腦上正在運(yùn)行的其他程序也會(huì)對(duì)實(shí)驗(yàn)有干擾，因此嚴(yán)格來說這就是《實(shí)驗(yàn)不可重復(fù)》。

我了解到的關(guān)于計(jì)時(shí)比較有代表性的兩個(gè)庫就是time和timeit。

其中，time庫中有time()、perf_counter()以及process_time()三個(gè)函數(shù)可用來計(jì)時(shí)（以秒為單位），加后綴_ns表示以納秒計(jì)時(shí)（自 Python3.7 始）。在此之前還有clock()函數(shù)，但是在 Python3.3 之后被移除了。上述三者的區(qū)別如下：

• time()精度上相對(duì)沒有那么高，而且受系統(tǒng)的影響，適合表示日期時(shí)間或者大程序的計(jì)時(shí)。
• perf_counter()適合小一點(diǎn)的程序測(cè)試，會(huì)計(jì)算sleep()時(shí)間。
• process_time()適合小一點(diǎn)的程序測(cè)試，不計(jì)算sleep()時(shí)間。

與time庫相比，timeit 有兩個(gè)優(yōu)點(diǎn)：

• timeit 會(huì)根據(jù)您的操作系統(tǒng)和 Python 版本選擇最佳計(jì)時(shí)器。
• timeit 在計(jì)時(shí)期間會(huì)暫時(shí)禁用垃圾回收。

timeit.timeit(stmt=‘pass’, setup=‘pass’, timer=, number=1000000, globals=None) 參數(shù)說明：

• stmt=‘pass’：需要計(jì)時(shí)的語句或者函數(shù)。
• setup=‘pass’：執(zhí)行stmt之前要運(yùn)行的代碼。通常，它用于導(dǎo)入一些模塊或聲明一些必要的變量。
• timer=：計(jì)時(shí)器函數(shù)，默認(rèn)為time.perf_counter()。
• number=1000000：執(zhí)行計(jì)時(shí)語句的次數(shù)，默認(rèn)為一百萬次。
• globals=None：指定執(zhí)行代碼的命名空間。

本文所有的計(jì)時(shí)均采用timeit方法，且采用默認(rèn)的執(zhí)行次數(shù)一百萬次。

為什么要執(zhí)行一百萬次呢？因?yàn)槲覀兊臏y(cè)試程序很短，如果不執(zhí)行這么多次的話，根本看不出差距。

1.使用map()進(jìn)行函數(shù)映射

Exp1：將字符串?dāng)?shù)組中的小寫字母轉(zhuǎn)為大寫字母。

測(cè)試數(shù)組為 oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']。

• 方法一

newlist = []for word in oldlist:     newlist.append(word.upper())

• 方法二

list(map(str.upper, oldlist))

方法一耗時(shí) 0.5267724000000005s，方法二耗時(shí) 0.41462569999999843s，性能提升 21.29%

2.使用set()求交集

Exp2：求兩個(gè)list的交集。

測(cè)試數(shù)組：a = [1,2,3,4,5]，b = [2,4,6,8,10]。

• 方法一

overlaps = []for x in a:     for y in b:         if x == y:             overlaps.append(x)

• 方法二

list(set(a) & set(b))

方法一耗時(shí) 0.9507264000000006s，方法二耗時(shí) 0.6148200999999993s，性能提升 35.33%

關(guān)于set()的語法：|、&、-分別表示求并集、交集、差集。

3.使用sort()或sorted()排序

我們可以通過多種方式對(duì)序列進(jìn)行排序，但其實(shí)自己編寫排序算法的方法有些得不償失。因?yàn)閮?nèi)置的 sort()或 sorted() 方法已經(jīng)足夠優(yōu)秀了，且利用參數(shù)key可以實(shí)現(xiàn)不同的功能，非常靈活。二者的區(qū)別是sort()方法僅被定義在list中，而sorted()是全局方法對(duì)所有的可迭代序列都有效。

Exp3：分別使用快排和sort()方法對(duì)同一列表排序。

測(cè)試數(shù)組：lists = [2,1,4,3,0]。

• 方法一

def quick_sort(lists,i,j):     if i >= j:         return list     pivot = lists[i]     low = i     high = j    while i < j:         while i < j and lists[j] >= pivot:             j -= 1         lists[i]=lists[j]         while i < j and lists[i] <=pivot:             i += 1         lists[j]=lists[i]     lists[j] = pivot    quick_sort(lists,low,i-1)     quick_sort(lists,i+1,high)     return lists

• 方法二

lists.sort()

方法一耗時(shí) 2.4796975000000003s，方法二耗時(shí) 0.05551999999999424s，性能提升 97.76%

順帶一提，sorted()方法耗時(shí) 0.1339823999987857s。

可以看出，sort()作為list專屬的排序方法還是很強(qiáng)的，sorted()雖然比前者慢一點(diǎn)，但是勝在它“不挑食”，它對(duì)所有的可迭代序列都有效。

擴(kuò)展：如何定義sort()或sorted()方法的key

1.通過lambda定義

#學(xué)生：（姓名，成績(jī)，年齡） students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)]students.sort(key = lambda student: student[0]) #根據(jù)姓名排序sorted(students, key = lambda student: student[0])

2.通過operator定義

import operator  students = [('john', 'A', 15),('jane', 'B', 12),('dave', 'B', 10)]students.sort(key=operator.itemgetter(0))sorted(students, key = operator.itemgetter(1, 0)) #先對(duì)成績(jī)排序，再對(duì)姓名排序

operator的itemgetter()適用于普通數(shù)組排序，attrgetter()適用于對(duì)象數(shù)組排序

3.通過cmp_to_key()定義，最為靈活

import functools  def cmp(a,b):     if a[1] != b[1]:         return -1 if a[1] < b[1] else 1 #先按照成績(jī)升序排序     elif a[0] != b[0]:         return -1 if a[0] < b[0] else 1 #成績(jī)相同，按照姓名升序排序    else:         return -1 if a[2] > b[2] else 1 #成績(jī)姓名都相同，按照年齡降序排序   students = [('john', 'A', 15),('john', 'A', 14),('jane', 'B', 12),('dave', 'B', 10)]sorted(students, key = functools.cmp_to_key(cmp))

4.使用collections.Counter()計(jì)數(shù)

Exp4：統(tǒng)計(jì)字符串中每個(gè)字符出現(xiàn)的次數(shù)。

測(cè)試數(shù)組：sentence=‘life is short, i choose python’。

• 方法一

counts = {}for char in sentence:     counts[char] = counts.get(char, 0) + 1

• 方法二

from collections import CounterCounter(sentence)

方法一耗時(shí) 2.8105250000000055s，方法二耗時(shí) 1.6317423000000062s，性能提升 41.94%

5.使用列表推導(dǎo)

列表推導(dǎo)（list comprehension）短小精悍。在小代碼片段中，可能沒有太大的區(qū)別。但是在大型開發(fā)中，它可以節(jié)省一些時(shí)間。

Exp5：對(duì)列表中的奇數(shù)求平方，偶數(shù)不變。

測(cè)試數(shù)組：oldlist = range(10)。

• 方法一

newlist = []for x in oldlist:     if x % 2 == 1:         newlist.append(x**2)

• 方法二

[x**2 for x in oldlist if x%2 == 1]

方法一耗時(shí) 1.5342976000000021s，方法二耗時(shí) 1.4181957999999923s，性能提升 7.57%

6.使用 join() 連接字符串

大多數(shù)人都習(xí)慣使用+來連接字符串。但其實(shí)，這種方法非常低效。因?yàn)椋?操作在每一步中都會(huì)創(chuàng)建一個(gè)新字符串并復(fù)制舊字符串。更好的方法是用 join() 來連接字符串。關(guān)于字符串的其他操作，也盡量使用內(nèi)置函數(shù)，如isalpha()、isdigit()、startswith()、endswith()等。

Exp6：將字符串列表中的元素連接起來。

測(cè)試數(shù)組：oldlist = [‘life’, ‘is’, ‘short’, ‘i’, ‘choose’, ‘python’]。

• 方法一

sentence = ""for word in oldlist:     sentence += word

• 方法二

"".join(oldlist)

方法一耗時(shí) 0.27489080000000854s，方法二耗時(shí) 0.08166570000000206s，性能提升 70.29%

join還有一個(gè)非常舒服的點(diǎn)，就是它可以指定連接的分隔符，舉個(gè)例子

oldlist = ['life', 'is', 'short', 'i', 'choose', 'python']sentence = "//".join(oldlist)print(sentence)

life//is//short//i//choose//python

7.使用x, y = y, x交換變量

Exp6：交換x，y的值。

測(cè)試數(shù)據(jù)：x, y = 100, 200。

• 方法一

temp = x x = y y = temp

• 方法二

x, y = y, x

方法一耗時(shí) 0.027853900000010867s，方法二耗時(shí) 0.02398730000000171s，性能提升 13.88%

8.使用while 1取代while True

在不知道確切的循環(huán)次數(shù)時(shí)，常規(guī)方法是使用while True進(jìn)行無限循環(huán)，在代碼塊中判斷是否滿足循環(huán)終止條件。雖然這樣做沒有任何問題，但while 1的執(zhí)行速度比while True更快。因?yàn)樗且环N數(shù)值轉(zhuǎn)換，可以更快地生成輸出。

Exp8：分別用while 1和while True循環(huán) 100 次。

• 方法一

i = 0while True:     i += 1     if i > 100:         break

• 方法二

i = 0while 1:     i += 1     if i > 100:         break

方法一耗時(shí) 3.679268300000004s，方法二耗時(shí) 3.607847499999991s，性能提升1.94%

9.使用裝飾器緩存

將文件存儲(chǔ)在高速緩存中有助于快速恢復(fù)功能。Python 支持裝飾器緩存，該緩存在內(nèi)存中維護(hù)特定類型的緩存，以實(shí)現(xiàn)最佳軟件驅(qū)動(dòng)速度。我們使用lru_cache裝飾器來為斐波那契函數(shù)提供緩存功能，在使用fibonacci遞歸函數(shù)時(shí)，存在大量的重復(fù)計(jì)算，例如fibonacci(1)、fibonacci(2)就運(yùn)行了很多次。而在使用了lru_cache后，所有的重復(fù)計(jì)算只會(huì)執(zhí)行一次，從而大大提高程序的執(zhí)行效率。

Exp9：求斐波那契數(shù)列。

測(cè)試數(shù)據(jù)：fibonacci(7)。

• 方法一

def fibonacci(n):     if n == 0:         return 0     elif n == 1:         return 1     return fibonacci(n - 1) + fibonacci(n-2)

• 方法二

import functools  @functools.lru_cache(maxsize=128)def fibonacci(n):     if n == 0:         return 0     elif n == 1:         return 1     return fibonacci(n - 1) + fibonacci(n-2)

方法一耗時(shí) 3.955014900000009s，方法二耗時(shí) 0.05077979999998661s，性能提升 98.72%

注意事項(xiàng)：

• 緩存是按照參數(shù)作為鍵，也就說在參數(shù)不變時(shí)，被lru_cache裝飾的函數(shù)只會(huì)執(zhí)行一次。
• 所有參數(shù)必須可哈希，例如list不能作為被lru_cache裝飾的函數(shù)的參數(shù)。

import functools   @functools.lru_cache(maxsize=100)def demo(a, b):     print('我被執(zhí)行了')     return a + bif __name__ == '__main__':     demo(1, 2)     demo(1, 2)

我被執(zhí)行了（執(zhí)行了兩次demo(1, 2)，卻只輸出一次）

from functools import lru_cache   @lru_cache(maxsize=100)def list_sum(nums: list):     return sum(nums)if __name__ == '__main__':     list_sum([1, 2, 3, 4, 5])

TypeError: unhashable type: ‘list’

functools.lru_cache(maxsize=128, typed=False)的兩個(gè)可選參數(shù)：

• maxsize代表緩存的內(nèi)存占用值，超過這個(gè)值之后，就的結(jié)果就會(huì)被釋放，然后將新的計(jì)算結(jié)果進(jìn)行緩存，其值應(yīng)當(dāng)設(shè)為 2 的冪。

• typed若為True，則會(huì)把不同的參數(shù)類型得到的結(jié)果分開保存。

10.減少點(diǎn)運(yùn)算符(.)的使用

點(diǎn)運(yùn)算符(.)用來訪問對(duì)象的屬性或方法，這會(huì)引起程序使用__getattribute__()和__getattr__()進(jìn)行字典查找，從而帶來不必要的開銷。尤其注意，在循環(huán)當(dāng)中，更要減少點(diǎn)運(yùn)算符的使用，應(yīng)該將它移到循環(huán)外處理。

這啟發(fā)我們應(yīng)該盡量使用from … import …這種方式來導(dǎo)包，而不是在需要使用某方法時(shí)通過點(diǎn)運(yùn)算符來獲取。其實(shí)不光是點(diǎn)運(yùn)算符，其他很多不必要的運(yùn)算我們都盡量移到循環(huán)外處理。

Exp10：將字符串?dāng)?shù)組中的小寫字母轉(zhuǎn)為大寫字母。

測(cè)試數(shù)組為 oldlist = [‘life’, ‘is’, ‘short’, ‘i’, ‘choose’, ‘python’]。

• 方法一

newlist = []for word in oldlist:     newlist.append(str.upper(word))

• 方法二

newlist = []upper = str.upperfor word in oldlist:     newlist.append(upper(word))

方法一耗時(shí) 0.7235491999999795s，方法二耗時(shí) 0.5475435999999831s，性能提升 24.33%

11.使用for循環(huán)取代while循環(huán)

當(dāng)我們知道具體要循環(huán)多少次時(shí)，使用for循環(huán)比使用while循環(huán)更好。

Exp12：使用for和while分別循環(huán) 100 次。

• 方法一

i = 0while i < 100:     i += 1

• 方法二

for _ in range(100):     pass

方法一耗時(shí) 3.894683299999997s，方法二耗時(shí) 1.0198077999999953s，性能提升73.82%

12.使用Numba.jit加速計(jì)算

Numba 可以將 Python 函數(shù)編譯碼為機(jī)器碼執(zhí)行，大大提高代碼執(zhí)行速度，甚至可以接近 C 或 FORTRAN 的速度。它能和 Numpy 配合使用，在 for 循環(huán)中或存在大量計(jì)算時(shí)能顯著地提高執(zhí)行效率。

Exp12：求從 1 加到 100 的和。

• 方法一

def my_sum(n):     x = 0     for i in range(1, n+1):         x += i    return x

• 方法二

from numba import jit  @jit(nopython=True) def numba_sum(n):     x = 0     for i in range(1, n+1):         x += i    return x

方法一耗時(shí) 3.7199997000000167s，方法二耗時(shí) 0.23769430000001535s，性能提升 93.61%

13.使用Numpy矢量化數(shù)組

矢量化是 NumPy 中的一種強(qiáng)大功能，可以將操作表達(dá)為在整個(gè)數(shù)組上而不是在各個(gè)元素上發(fā)生。這種用數(shù)組表達(dá)式替換顯式循環(huán)的做法通常稱為矢量化。

在 Python 中循環(huán)數(shù)組或任何數(shù)據(jù)結(jié)構(gòu)時(shí)，會(huì)涉及很多開銷。NumPy 中的向量化操作將內(nèi)部循環(huán)委托給高度優(yōu)化的 C 和 Fortran 函數(shù)，從而使 Python 代碼更加快速。

Exp13：兩個(gè)長(zhǎng)度相同的序列逐元素相乘。

測(cè)試數(shù)組：a = [1,2,3,4,5], b = [2,4,6,8,10]

• 方法一

[a[i]*b[i] for i in range(len(a))]

• 方法二

import numpy as np a = np.array([1,2,3,4,5])b = np.array([2,4,6,8,10])a*b

方法一耗時(shí) 0.6706845000000214s，方法二耗時(shí) 0.3070132000000001s，性能提升 54.22%

14.使用in檢查列表成員

若要檢查列表中是否包含某成員，通常使用in關(guān)鍵字更快。

Exp14：檢查列表中是否包含某成員。

測(cè)試數(shù)組：lists = [‘life’, ‘is’, ‘short’, ‘i’, ‘choose’, ‘python’]

• 方法一

def check_member(target, lists):     for member in lists:         if member == target:             return True    return False

• 方法二

if target in lists:     pass

方法一耗時(shí) 0.16038449999999216s，方法二耗時(shí) 0.04139250000000061s，性能提升 74.19%

15.使用itertools庫迭代

itertools是用來操作迭代器的一個(gè)模塊，其函數(shù)主要可以分為三類：無限迭代器、有限迭代器、組合迭代器。

Exp15：返回列表的全排列。

測(cè)試數(shù)組：[“Alice”, “Bob”, “Carol”]

• 方法一

def permutations(lst):     if len(lst) == 1 or len(lst) == 0:         return [lst]     result = []     for i in lst:         temp_lst = lst[:]         temp_lst.remove(i)         temp = permutations(temp_lst)         for j in temp:             j.insert(0, i)             result.append(j)     return result

• 方法二

import itertools itertools.permutations(["Alice", "Bob", "Carol"])

方法一耗時(shí) 3.867292899999484s，方法二耗時(shí) 0.3875405000007959s，性能提升 89.98%

結(jié)語

根據(jù)上面的測(cè)試數(shù)據(jù)，我繪制了下面這張實(shí)驗(yàn)結(jié)果圖，可以更加直觀的看出不同方法帶來的性能差異。

從圖中可以看出，大部分的技巧所帶來的性能增幅還是比較可觀的，但也有少部分技巧的增幅較小（例如編號(hào)5、7、8，其中，第 8 條的兩種方法幾乎沒有差異）。

總結(jié)下來，我覺得其實(shí)就是下面這兩條原則：

1.盡量使用內(nèi)置庫函數(shù)

內(nèi)置庫函數(shù)由專業(yè)的開發(fā)人員編寫并經(jīng)過了多次測(cè)試，很多庫函數(shù)的底層是用C語言開發(fā)的。因此，這些函數(shù)總體來說是非常高效的（比如sort()、join()等），自己編寫的方法很難超越它們，還不如省省功夫，不要重復(fù)造輪子了，何況你造的輪子可能更差。所以，如果函數(shù)庫中已經(jīng)存在該函數(shù)，就直接拿來用。

2.盡量使用優(yōu)秀的第三方庫

有很多優(yōu)秀的第三方庫，它們的底層可能是用 C 和 Fortran 來實(shí)現(xiàn)的，像這樣的庫用起來絕對(duì)不會(huì)吃虧，比如前文提到的 Numpy 和 Numba，它們帶來的提升都是非常驚人的。類似這樣的庫還有很多，比如Cython、PyPy等，這里我只是拋磚引玉。

其實(shí)加快 Python 代碼執(zhí)行速度的方法還有很多，比如避免使用全局變量、使用最新版本、使用合適的數(shù)據(jù)結(jié)構(gòu)、利用if條件的惰性等等，我這里就不一一例舉了。這些方法都需要我們親身去實(shí)踐才會(huì)有深刻的感受和理解，但最根本的方法就是保持我們對(duì)編程的熱情和對(duì)最佳實(shí)踐的追求，這才是我們能不斷突破自我、勇攀高峰的不竭動(dòng)力源泉！

推薦學(xué)習(xí)：python學(xué)習(xí)教程