怎樣刪除list中空字符?
最簡(jiǎn)單的方法:new_list = [ x for x in li if x != '' ]
今天是5.1號(hào)。
這一部分主要學(xué)習(xí)pandas中基于前面兩種數(shù)據(jù)結(jié)構(gòu)的基本操作。
設(shè)有DataFrame結(jié)果的數(shù)據(jù)a如下所示: a b cone 4 1 1two 6 2 0three 6 1 6
1.查看DataFrame前xx行或后xx行
a=DataFrame(data);
a.head(6)表示顯示前6行數(shù)據(jù),若head()中不帶參數(shù)則會(huì)顯示全部數(shù)據(jù)。
a.tail(6)表示顯示后6行數(shù)據(jù),若tail()中不帶參數(shù)則也會(huì)顯示全部數(shù)據(jù)。
2.查看DataFrame的index,columns以及values
a.index ; a.columns ; a.values 即可
3.describe()函數(shù)對(duì)于數(shù)據(jù)的快速統(tǒng)計(jì)匯總
a.describe()對(duì)每一列數(shù)據(jù)進(jìn)行統(tǒng)計(jì),包括計(jì)數(shù),均值,std,各個(gè)分位數(shù)等。
4.對(duì)數(shù)據(jù)的轉(zhuǎn)置
a.T
5.對(duì)軸進(jìn)行排序
a.sort_index(axis=1,ascending=False);
其中axis=1表示對(duì)所有的columns進(jìn)行排序,下面的數(shù)也跟著發(fā)生移動(dòng)。后面的ascending=False表示按降序排列,參數(shù)缺失時(shí)默認(rèn)升序。
6.對(duì)DataFrame中的值排序
a.sort(columns='x')
即對(duì)a中的x這一列,從小到大進(jìn)行排序。注意僅僅是x這一列,而上面的按軸進(jìn)行排序時(shí)會(huì)對(duì)所有的columns進(jìn)行操作。
1.選擇特定列和行的數(shù)據(jù)
a['x'] 那么將會(huì)返回columns為x的列,注意這種方式一次只能返回一個(gè)列。a.x與a['x']意思一樣。
取行數(shù)據(jù),通過切片[]來選擇
如:a[0:3] 則會(huì)返回前三行的數(shù)據(jù)。
2.loc是通過標(biāo)簽來選擇數(shù)據(jù)
a.loc['one']則會(huì)默認(rèn)表示選取行為'one'的行;
a.loc[:,['a','b'] ] 表示選取所有的行以及columns為a,b的列;
a.loc[['one','two'],['a','b']] 表示選取'one'和'two'這兩行以及columns為a,b的列;
a.loc['one','a']與a.loc[['one'],['a']]作用是一樣的,不過前者只顯示對(duì)應(yīng)的值,而后者會(huì)顯示對(duì)應(yīng)的行和列標(biāo)簽。
3.iloc則是直接通過位置來選擇數(shù)據(jù)
這與通過標(biāo)簽選擇類似
a.iloc[1:2,1:2] 則會(huì)顯示第一行第一列的數(shù)據(jù);(切片后面的值取不到)
a.iloc[1:2] 即后面表示列的值沒有時(shí),默認(rèn)選取行位置為1的數(shù)據(jù);
a.iloc[[0,2],[1,2]] 即可以自由選取行位置,和列位置對(duì)應(yīng)的數(shù)據(jù)。
4.使用條件來選擇
使用單獨(dú)的列來選擇數(shù)據(jù)
a[a.c>0] 表示選擇c列中大于0的數(shù)據(jù)
使用where來選擇數(shù)據(jù)
a[a>0] 表直接選擇a中所有大于0的數(shù)據(jù)
使用isin()選出特定列中包含特定值的行
a1=a.copy()
a1[a1['one'].isin(['2','3'])] 表顯示滿足條件:列one中的值包含'2','3'的所有行。
賦值操作在上述選擇操作的基礎(chǔ)上直接賦值即可。
例a.loc[:,['a','c']]=9 即將a和c列的所有行中的值設(shè)置為9
a.iloc[:,[1,3]]=9 也表示將a和c列的所有行中的值設(shè)置為9
同時(shí)也依然可以用條件來直接賦值
a[a>0]=-a 表示將a中所有大于0的數(shù)轉(zhuǎn)化為負(fù)值
在pandas中,使用np.nan來代替缺失值,這些值將默認(rèn)不會(huì)包含在計(jì)算中。
1.reindex()方法
用來對(duì)指定軸上的索引進(jìn)行改變/增加/刪除操作,這將返回原始數(shù)據(jù)的一個(gè)拷貝。
a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])
a.reindex(index=['one','five'],columns=list(a.columns)+['d'])
即用index=[]表示對(duì)index進(jìn)行操作,columns表對(duì)列進(jìn)行操作。
2.對(duì)缺失值進(jìn)行填充
a.fillna(value=x)
表示用值為x的數(shù)來對(duì)缺失值進(jìn)行填充
3.去掉包含缺失值的行
a.dropna(how='any')
表示去掉所有包含缺失值的行
1.contact
contact(a1,axis=0/1,keys=['xx','xx','xx',...]),其中a1表示要進(jìn)行進(jìn)行連接的列表數(shù)據(jù),axis=1時(shí)表橫著對(duì)數(shù)據(jù)進(jìn)行連接。axis=0或不指定時(shí),表將數(shù)據(jù)豎著進(jìn)行連接。a1中要連接的數(shù)據(jù)有幾個(gè)則對(duì)應(yīng)幾個(gè)keys,設(shè)置keys是為了在數(shù)據(jù)連接以后區(qū)分每一個(gè)原始a1中的數(shù)據(jù)。
例:a1=[b['a'],b['c']]
result=pd.concat(a1,axis=1,keys=['1','2'])
2.Append 將一行或多行數(shù)據(jù)連接到一個(gè)DataFrame上
a.append(a[2:],ignore_index=True)
表示將a中的第三行以后的數(shù)據(jù)全部添加到a中,若不指定ignore_index參數(shù),則會(huì)把添加的數(shù)據(jù)的index保留下來,若ignore_index=Ture則會(huì)對(duì)所有的行重新自動(dòng)建立索引。
3.merge類似于SQL中的join
設(shè)a1,a2為兩個(gè)dataframe,二者中存在相同的鍵值,兩個(gè)對(duì)象連接的方式有下面幾種:
(1)內(nèi)連接,pd.merge(a1, a2, on='key')
(2)左連接,pd.merge(a1, a2, on='key', how='left')
(3)右連接,pd.merge(a1, a2, on='key', how='right')
(4)外連接, pd.merge(a1, a2, on='key', how='outer')
至于四者的具體差別,具體學(xué)習(xí)參考sql中相應(yīng)的語法。
用pd.date_range函數(shù)生成連續(xù)指定天數(shù)的的日期
pd.date_range('20000101',periods=10)
def shuju(): data={ 'date':pd.date_range('20000101',periods=10), 'gender':np.random.randint(0,2,size=10), 'height':np.random.randint(40,50,size=10), 'weight':np.random.randint(150,180,size=10) }a=DataFrame(data)print(a) date gender height weight0 2000-01-01 0 47 1651 2000-01-02 0 46 1792 2000-01-03 1 48 1723 2000-01-04 0 45 1734 2000-01-05 1 47 1515 2000-01-06 0 45 1726 2000-01-07 0 48 1677 2000-01-08 0 45 1578 2000-01-09 1 42 1579 2000-01-10 1 42 164用a.groupby('gender').sum()得到的結(jié)果為: #注意在python中g(shù)roupby(''xx)后要加sum(),不然顯示不了數(shù)據(jù)對(duì)象。gender height weight 0 256 9891 170 643
此外用a.groupby('gender').size()可以對(duì)各個(gè)gender下的數(shù)目進(jìn)行計(jì)數(shù)。
所以可以看到groupby的作用相當(dāng)于:
按gender對(duì)gender進(jìn)行分類,對(duì)應(yīng)為數(shù)字的列會(huì)自動(dòng)求和,而為字符串類型的列則不顯示;當(dāng)然也可以同時(shí)groupby(['x1','x2',...])多個(gè)字段,其作用與上面類似。
如六中要對(duì)a中的gender進(jìn)行重新編碼分類,將對(duì)應(yīng)的0,1轉(zhuǎn)化為male,female,過程如下:
a['gender1']=a['gender'].astype('category')a['gender1'].cat.categories=['male','female'] #即將0,1先轉(zhuǎn)化為category類型再進(jìn)行編碼。 print(a)得到的結(jié)果為: date gender height weight gender10 2000-01-01 1 40 163 female1 2000-01-02 0 44 177 male2 2000-01-03 1 40 167 female3 2000-01-04 0 41 161 male4 2000-01-05 0 48 177 male5 2000-01-06 1 46 179 female6 2000-01-07 1 42 154 female7 2000-01-08 1 43 170 female8 2000-01-09 0 46 158 male9 2000-01-10 1 44 168 female
所以可以看出重新編碼后的編碼會(huì)自動(dòng)增加到dataframe最后作為一列。
描述性統(tǒng)計(jì):
1.a.mean() 默認(rèn)對(duì)每一列的數(shù)據(jù)求平均值;若加上參數(shù)a.mean(1)則對(duì)每一行求平均值;
2.統(tǒng)計(jì)某一列x中各個(gè)值出現(xiàn)的次數(shù):a['x'].value_counts();
3.對(duì)數(shù)據(jù)應(yīng)用函數(shù)
a.apply(lambda x:x.max()-x.min())
表示返回所有列中最大值-最小值的差。
4.字符串相關(guān)操作
a['gender1'].str.lower() 將gender1中所有的英文大寫轉(zhuǎn)化為小寫,注意dataframe沒有str屬性,只有series有,所以要選取a中的gender1字段。
在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函數(shù)生成連續(xù)指定天數(shù)的的日期列表。
例如pd.date_range('20000101',periods=10),其中periods表示持續(xù)頻數(shù);
pd.date_range('20000201','20000210',freq='D')也可以不指定頻數(shù),只指定起始日期。
此外如果不指定freq,則默認(rèn)從起始日期開始,頻率為day。其他頻率表示如下:
在pycharm中首先要:import matplotlib.pyplot as plta=Series(np.random.randn(1000),index=pd.date_range('20100101',periods=1000))b=a.cumsum()b.plot()plt.show() #最后一定要加這個(gè)plt.show(),不然不會(huì)顯示出圖來。
也可以使用下面的代碼來生成多條時(shí)間序列圖:
a=DataFrame(np.random.randn(1000,4),index=pd.date_range('20100101',periods=1000),columns=list('ABCD'))b=a.cumsum()b.plot()plt.show()
寫入和讀取excel文件
雖然寫入excel表時(shí)有兩種寫入xls和csv,但建議少使用csv,不然在表中調(diào)整數(shù)據(jù)格式時(shí),保存時(shí)一直詢問你是否保存新格式,很麻煩。而在讀取數(shù)據(jù)時(shí),如果指定了哪一張sheet,則在pycharm又會(huì)出現(xiàn)格式不對(duì)齊。
還有將數(shù)據(jù)寫入表格中時(shí),excel會(huì)自動(dòng)給你在表格最前面增加一個(gè)字段,對(duì)數(shù)據(jù)行進(jìn)行編號(hào)。
a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1') a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA'])注意sheet_name后面的Sheet1中的首字母大寫;讀取數(shù)據(jù)時(shí),可以指定讀取哪一張表中的數(shù)據(jù),而且對(duì)缺失值補(bǔ)上NA。最后再附上寫入和讀取csv格式的代碼:a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',sheet_name='Sheet1')a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])
聯(lián)系客服