App下載

python如何提高計算速度?一行代碼解決!

少女一米八 2021-07-15 11:41:50 瀏覽數(shù) (5721)
反饋

一、前言

Python語言近年來人氣爆棚。它廣泛應(yīng)用于數(shù)據(jù)科學(xué),人工智能,以及網(wǎng)絡(luò)安全問題中,由于代碼可讀性較強(qiáng),學(xué)習(xí)效率較高,吸引了許多非科班的同學(xué)進(jìn)行學(xué)習(xí)。然而,使用Python一段時間以后,發(fā)現(xiàn)它在速度上完全沒有優(yōu)勢可言,特別是計算密集型任務(wù)里,性能問題一直是Python的軟肋。本文主要介紹了Python的JIT編譯器Numba,能夠在對代碼侵入最少的情況下,極大加速計算核心函數(shù)的運(yùn)行速度,適合數(shù)據(jù)分析業(yè)務(wù)相關(guān)的同學(xué)使用。

首先要回答這樣一個問題:當(dāng)運(yùn)行同一個程序時,為什么Python會比其他語言慢2到10倍?為什么我們無法將它變得更快?

以下是最主要的原因:

  • “它是GIL(Global Interpreter Lock全局解釋器鎖)”
  • “它是解釋型語言而非編譯語言”
  • “它是動態(tài)類型語言

由于本文的著重點并不是解釋Python速度慢的原因以及背后的邏輯,這部分就不深入探討了,歡迎有興趣的同學(xué)自行搜索。

二、Python的JIT編譯器

為了兼具移植性和性能,聰明的工程師們發(fā)明了 JIT 這個東西,所謂的 JIT 就是說在解釋型語言中,對于經(jīng)常用到的或者說有較大性能提升的代碼在解釋的時候編譯成機(jī)器碼,其他一次性或者說沒有太大性能提升的代碼還是以字節(jié)碼的方式執(zhí)行。這樣的話,就能在保證移植性的同時,又能讓性能提升一大截,

JIT編譯在代碼運(yùn)行時動態(tài)將Python代碼編譯為機(jī)器代碼執(zhí)行,由于避免了Python內(nèi)置的解釋器,運(yùn)行速度會有很大提升。比較流行的JIT方案是Numba和Pypy,但由于Python的歷史包袱和語法變化等原因,沒有一個能夠完美實現(xiàn)的方案。方案各自存在不同的優(yōu)缺點,需要在根據(jù)使用領(lǐng)域選擇合適的方案。

  • Pypy支持全局的加速,但對C庫支持不好,較為適合用于Web服務(wù)等事務(wù)型任務(wù)。
  • Numba能夠?qū)δ承┖瘮?shù)和庫進(jìn)行加速,高性能的同時保持了Python的兼容性,但使用的范圍會受到一定限制。

width of CA model 

三、Numba快速學(xué)習(xí)

我們主要介紹Numba的基本用法,能夠在對代碼侵入最少的情況下,極大加速計算核心函數(shù)的運(yùn)行速度,適合數(shù)據(jù)分析業(yè)務(wù)相關(guān)的同學(xué)使用。

Numba通過使用LLVM技術(shù),將Python代碼編譯生成優(yōu)化后的機(jī)器碼,可以大幅提高代碼執(zhí)行效率。


關(guān)于安裝

首先是安裝numba,根據(jù)python環(huán)境,運(yùn)行不同的安裝命令:

conda install numba
pip install numba

四、關(guān)于使用

一句話總結(jié):使用Numba最簡單的方式就是在函數(shù)定義前加@jit 或 @njit的裝飾即可。

Numba通過在函數(shù)定義前加decorator(修飾符)來申明是否進(jìn)行加速。如上文所說,最簡單的使用方法是@jit。對于Numba的@jit有兩種編譯模式:nopython和object模式。

nopython模式會完全編譯這個被修飾的函數(shù),函數(shù)的運(yùn)行與Python解釋器完全無關(guān),不會調(diào)用Python的C語言API。如果想獲得最佳性能,推薦使用此種模式。同時由于@jit(nopython=True)太常用了,Numba提供了@njit修飾符,和這句話等價,方便使用。但這種模式要求函數(shù)中所有變量的類型都可以被編譯器推導(dǎo)(一些基本類型,如不能是一些庫或自己定義的數(shù)據(jù)類型等),否則就會報錯。

object模式中編譯器會自動識別函數(shù)中循環(huán)語句等可以編譯加速的代碼部分,并編譯成機(jī)器碼,對于剩下不能識別的部分交給Python解釋器運(yùn)行。如果想獲取最佳性能,避免使用這種方法(For best performance avoid using this mode!)。

如果沒設(shè)置參數(shù)nopython=True,Numba首先會嘗試使用nopython模式,如果因為某些原因無法使用,則會使用object模式。加了nopython后則會強(qiáng)制編譯器使用nopython模式,但如果代碼出現(xiàn)了不能自動推導(dǎo)的類型,有報錯的風(fēng)險。

五、實驗提升

from numba import jit
import random, time

def monte_carlo_pi(sam):
    account = 0
    for i in range(sam):
        x = random.random()
        y = random.random()
        if (x ** 2 + y ** 2) < 1.0:
            account += 1
    return 4.0 * account / sam

@jit
def jit_monte_carlo_pi(sam):
    account = 0
    for i in range(sam):
        x = random.random()
        y = random.random()
        if (x ** 2 + y ** 2) < 1.0:
            account += 1
    return 4.0 * account / sam

loops = [100000, 1000000, 10000000, 100000000, 1000000000]

for loop in loops:
	startTime = time.time()
	monte_carlo_pi(loop)
	t = time.time() - startTime
	print('python {} loop: {}'.format(loop, t))

	startTime = time.time()
	jit_monte_carlo_pi(loop)
	t = time.time() - startTime
	print('numba {} loop: {}'.format(loop, t))

對于以上代碼,運(yùn)行的結(jié)果是:
python 100000    loop: 0.0469999313354
numba  100000    loop: 0.213999986649
python 1000000   loop: 0.478999853134
numba  1000000   loop: 0.0110001564026
python 10000000  loop: 4.82499980927
numba  10000000  loop: 0.107000112534
python 100000000 loop: 48.728000164
numba  100000000 loop: 1.05900001526
python 1000000000 loop: 489.142100134
numba  1000000000 loop: 11.01402001452

可以看到,jit編譯后有約47倍的提升。循環(huán)次數(shù)越多,numba的加速效果就越明顯。對于更復(fù)雜的計算函數(shù),numba可能會有更好的效果。

到此這篇關(guān)于python如何提高計算速度的文章就介紹到這了,更多python代碼優(yōu)化的內(nèi)容請搜索W3Cschool以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持W3Cschool!


0 人點贊