相關(guān)學(xué)習(xí)推薦:python教程
今天是pandas數(shù)據(jù)處理專題的第四篇文章,我們一起來聊聊DataFrame中的索引。
上一篇文章當(dāng)中我們介紹了DataFrame數(shù)據(jù)結(jié)構(gòu)當(dāng)中一些常用的索引的使用方法,比如iloc、loc以及邏輯索引等等。今天的文章我們來看看DataFrame的一些基本運(yùn)算。
數(shù)據(jù)對齊
我們可以計(jì)算兩個(gè)DataFrame的加和,pandas會自動將這兩個(gè)DataFrame進(jìn)行數(shù)據(jù)對齊,如果對不上的數(shù)據(jù)會被置為Nan(not a number)。
首先我們來創(chuàng)建兩個(gè)DataFrame:
import numpy as npimport pandas as pddf1 = pd.DataFrame(np.arange(9).reshape((3, 3)), columns=list('abc'), index=['1', '2', '3'])df2 = pd.DataFrame(np.arange(12).reshape((4, 3)), columns=list('abd'), index=['2', '3', '4', '5'])復(fù)制代碼
得到的結(jié)果和我們設(shè)想的一致,其實(shí)只是通過numpy數(shù)組創(chuàng)建DataFrame,然后指定index和columns而已,這應(yīng)該算是很基礎(chǔ)的用法了。

然后我們將兩個(gè)DataFrame相加,會得到:

我們發(fā)現(xiàn)pandas將兩個(gè)DataFrame加起來合并了之后,凡是沒有在兩個(gè)DataFrame都出現(xiàn)的位置就會被置為Nan。這其實(shí)是很有道理的,實(shí)際上不只是加法,我們可以計(jì)算兩個(gè)DataFrame的加減乘除的四則運(yùn)算都是可以的。如果是計(jì)算兩個(gè)DataFrame相除的話,那么除了對應(yīng)不上的數(shù)據(jù)會被置為Nan之外,除零這個(gè)行為也會導(dǎo)致異常值的發(fā)生(可能不一定是Nan,而是inf)。
fill_value
如果我們要對兩個(gè)DataFrame進(jìn)行運(yùn)算,那么我們當(dāng)然不會希望出現(xiàn)空值。這個(gè)時(shí)候就需要對空值進(jìn)行填充了,我們直接使用運(yùn)算符進(jìn)行運(yùn)算是沒辦法傳遞參數(shù)進(jìn)行填充的,這個(gè)時(shí)候我們需要使用DataFrame當(dāng)中為我們提供的算術(shù)方法。
DataFrame當(dāng)中常用的運(yùn)算符有這么幾種:

add、sub、p這些我們都很好理解,那么這里的radd、rsub方法又是什么意思呢,為什么前面要加上一個(gè)r呢?
看起來費(fèi)解,但是說白了一文不值,radd是用來翻轉(zhuǎn)參數(shù)的。舉個(gè)例子,比如說我們希望得到DataFrame當(dāng)中所有元素的倒數(shù),我們可以寫成1 / df。由于1本身并不是一個(gè)DataFrame,所以我們不能用1來呼叫DataFrame當(dāng)中的方法,也就不能傳遞參數(shù),為了解決這種情況,我們可以把1 / df寫成df.rp(1),這樣我們就可以在其中傳遞參數(shù)了。

由于在算除法的過程當(dāng)中發(fā)生了除零,所以我們得到了一個(gè)inf,它表示無窮大。
我們可以在add、p這些方法當(dāng)中傳入一個(gè)fill_value的參數(shù),這個(gè)參數(shù)可以在計(jì)算之前對于一邊出現(xiàn)缺失值的情況進(jìn)行填充。也就是說對于對于只在一個(gè)DataFrame中缺失的位置會被替換成我們指定的值,如果在兩個(gè)DataFrame都缺失,那么依然還會是Nan。

我們對比下結(jié)果就能發(fā)現(xiàn)了,相加之后的(1, d), (4, c)以及(5, c)的位置都是Nan,因?yàn)閐f1和df2兩個(gè)DataFrame當(dāng)中這些位置都是空值,所以沒有被填充。
fill_value這個(gè)參數(shù)在很多api當(dāng)中都有出現(xiàn),比如reindex等,用法都是一樣的,我們在查閱api文檔的時(shí)候可以注意一下。
那么對于這種填充了之后還出現(xiàn)的空值我們應(yīng)該怎么辦呢?難道只能手動找到這些位置進(jìn)行填充嗎?當(dāng)然是不現(xiàn)實(shí)的,pandas當(dāng)中還為我們提供了專門解決空值的api。
空值api
在填充空值之前,我們首先要做的是發(fā)現(xiàn)空值。針對這個(gè)問題,我們有isna這個(gè)api,它會返回一個(gè)bool型的DataFrame,DataFrame當(dāng)中的每一個(gè)位置表示了原DataFrame對應(yīng)的位置是否是空值。

dropna
當(dāng)然只是發(fā)現(xiàn)是否是空值肯定是不夠的,我們有時(shí)候會希望不要空值的出現(xiàn),這個(gè)時(shí)候我們可以選擇drop掉空值。針對這種情況,我們可以使用DataFrame當(dāng)中的dropna方法。

我們發(fā)現(xiàn)使用了dropna之后,出現(xiàn)了空值的行都被拋棄了。只保留了沒有空值的行,有時(shí)候我們希望拋棄是的列而不是行,這個(gè)時(shí)候我們可以通過傳入axis參數(shù)進(jìn)行控制。

這樣我們得到的就是不含空值的列,除了可以控制行列之外,我們還可以控制執(zhí)行drop的嚴(yán)格程度。我們可以通過how這個(gè)參數(shù)來判斷,how支持兩種值傳入,一種是'all',一種是'any'。all表示只有在某一行或者是某一列全為空值的時(shí)候才會拋棄,any與之對應(yīng)就是只要出現(xiàn)了空值就會拋棄。默認(rèn)不填的話認(rèn)為是any,一般情況下我們也用不到這個(gè)參數(shù),大概有個(gè)印象就可以了。
fillna
pandas除了可以drop含有空值的數(shù)據(jù)之外,當(dāng)然也可以用來填充空值,事實(shí)上這也是最常用的方法。
我們可以很簡單地傳入一個(gè)具體的值用來填充:

fillna會返回一個(gè)新的DataFrame,其中所有的Nan值會被替換成我們指定的值。如果我們不希望它返回一個(gè)新的DataFrame,而是直接在原數(shù)據(jù)進(jìn)行修改的話,我們可以使用inplace參數(shù),表明這是一個(gè)inplace的操作,那么pandas將會在原DataFrame上進(jìn)行修改。
df3.fillna(3, inplace=True)復(fù)制代碼
除了填充具體的值以外,我們也可以和一些計(jì)算結(jié)合起來算出來應(yīng)該填充的值。比如說我們可以計(jì)算出某一列的均值、最大值、最小值等各種計(jì)算來填充。fillna這個(gè)函數(shù)不僅可以使用在DataFrame上,也可以使用在Series上,所以我們可以針對DataFrame中的某一列或者是某些列進(jìn)行填充:

除了可以計(jì)算出均值、最大最小值等各種值來進(jìn)行填充之外,還可以指定使用缺失值的前一行或者是后一行的值來填充。實(shí)現(xiàn)這個(gè)功能需要用到method這個(gè)參數(shù),它有兩個(gè)接收值,ffill表示用前一行的值來進(jìn)行填充,bfill表示使用后一行的值填充。

我們可以看到,當(dāng)我們使用ffill填充的時(shí)候,對于第一行的數(shù)據(jù)來說由于它沒有前一行了,所以它的Nan會被保留。同樣當(dāng)我們使用bfill的時(shí)候,最后一行也無法填充。
總結(jié)
今天的文章當(dāng)中我們主要介紹了DataFrame的一些基本運(yùn)算,比如最基礎(chǔ)的四則運(yùn)算。在進(jìn)行四則運(yùn)算的時(shí)候由于DataFrame之間可能存在行列索引不能對齊的情況,這樣計(jì)算得到的結(jié)果會出現(xiàn)空值,所以我們需要對空值進(jìn)行處理。我們可以在進(jìn)行計(jì)算的時(shí)候通過傳入fill_value進(jìn)行填充,也可以在計(jì)算之后對結(jié)果進(jìn)行fillna填充。
在實(shí)際的運(yùn)用當(dāng)中,我們一般很少會直接對兩個(gè)DataFrame進(jìn)行加減運(yùn)算,但是DataFrame中出現(xiàn)空置是家常便飯的事情。因此對于空值的填充和處理非常重要,可以說是學(xué)習(xí)中的重點(diǎn),大家千萬注意。
想了解