前期準(zhǔn)備

讀數(shù)據(jù)

file1_path ='E:/Users/lenovo/Desktop/中視/622召回.csv' # 源數(shù)據(jù)

格式：file1=pd.read_csv(file1_path)

0.0 讀取數(shù)據(jù)（調(diào)整成gbk格式，如果亂碼）

pd.read_csv(file1_path,encoding='gbk')

0.1 讀取數(shù)據(jù)并刪除第2，3行數(shù)據(jù)

pd.read_csv(file1_path,encoding='gbk',skiprows=[2,3])

0.2 讀取數(shù)據(jù)并刪除奇數(shù)索引的數(shù)據(jù)

pd.read_csv(file1_path,encoding='gbk',skiprows=lambda x:x%2==1)

0.3 讀取數(shù)據(jù)為空的會顯示NaN，讓其顯示為空

pd.read_csv(file1_path,encoding='gbk',keep_default_na=False)

修改后

修改前

建表

new=pd.DataFrame()

一、數(shù)據(jù)篩選

1.行值篩選

1.1 行值-獲取第0，1，2行（列表索引）

new.new[[0,1,2]]

1.2 行值-獲取第0-2行（切片索引）

new.new[0:2]

查詢結(jié)果同上

1.3 行值范圍的篩選(布爾索引）

new.loc[new['激活數(shù)']>1000]

2.列值的篩選

loc和iloc的區(qū)別：

? ??loc：純標(biāo)簽篩選

? ??iloc：純數(shù)字篩選

2.1?loc：純標(biāo)簽篩選：

#篩選出new的某兩列

new=new.loc[:,['phone','收件人姓名']]

2.2?iloc：純數(shù)字篩選:

#篩選new的第0，1列

new.iloc[:,[0,1]]

3.篩選指定明確的值-“==”

使用‘==’篩選-篩查“崔旭”的人（只能篩查指定明確的）

#new=file1.loc[(file1['收件人姓名']=='崔旭')|(file1['收件人姓名']=='崔霞')]

#print(new)

4.篩選值里的某個字，使用loc函數(shù)-str.contains/str.startswitch函數(shù)

#使用loc函數(shù)篩選-str.contains函數(shù)-篩查名字中包含'亮'和'海'的人

#new=file1.loc[file1['收件人姓名'].str.contains('亮|海')]

#print(new)

#使用loc函數(shù)篩選-str.contains函數(shù)-篩查'崔'姓的人

#new=file1.loc[file1['收件人姓名'].str.startswitch('崔')]

#print(new)

5.篩選列中非空的值

df = df[(df['DEPOSIT_PAY_TIME_x'].notnull()) & (df['DEPOSIT_PAY_TIME_x'] != "")]

二、數(shù)據(jù)統(tǒng)計

1.統(tǒng)計during_time(number)為0的個數(shù)

print("during_time(number)=0的個數(shù)：",newdata[newdata['during_time(number)'] ==0].count()['during_time(number)'])

2.統(tǒng)計during_time(number)為1,2,3的個數(shù)

print("during_time(number)=1,2,3的個數(shù)：",newdata[(newdata['during_time(number)'] >0) & (newdata['during_time(number)'] <4)].count()['during_time(number)'])

3.1篩選during_time(number)為0時的數(shù)據(jù)

print(newdata[newdata['during_time(number)'] ==0])

3.2 篩選英格蘭(England)、意大利(Italy)和俄羅斯(Russia)的射正率(Shooting Accuracy)

newdata[newdata['Team'].isin(['England','Italy','Russia'])][['Team','Shooting Accuracy']]

用到了isin

4.統(tǒng)計某一列有多少種值，個數(shù)各為多少

df.年齡.value_counts()

三、數(shù)據(jù)修改、刪除

1.修改指定位置數(shù)據(jù)的值（修改第0行，’創(chuàng)建訂單數(shù)‘列的值為3836）

new.loc[0,'創(chuàng)建訂單數(shù)']=3836

2.替換‘小明’-‘xiaoming’

替換前

df.replace({'name':{'小明':'xiaoming'}})

替換后

3.批量替換某一列的值（把‘性別’列里的男-male，女-felmale）

方法一：df['性別']=df['性別'].map({'男':'male','女':'female'})

替換后

方法二：df['性別'].replace('female','女',inplace=True)

? ? ? ? ? ? ? ?或df['性別']=df['性別'].replace('female','女')? ? ? ? ? ? ? ? 這就是inplace的作用

? ? ? ? ? ? ? ? +df['性別'].replace('male','男',inplace=True)

替換后

4.替換列索引

替換前

df.columns=['sex','name','height','age']

或者：df.rename(columns={'性別':'sex','姓名':'name','身高':'height','年齡':'age'})

替換后

5.刪除某一列

刪除前

del df['player']

刪除后

6. 刪除某一列（方法二），刪除某一行（默認(rèn)axis=0刪除行，為1則刪除列）

刪除前

刪除某一列（方法二）

df.drop('性別',axis=1)

刪除‘性別’列

刪除某一行

df.drop(1,axis=0)

刪除為1的行

四、連表、拼接、拆分

4.1 pd.merge(new1,new2,on=' ',how=' ')

file1=pd.read_csv(file1_path)

file2=pd.read_csv(file2_path)

new1=pd.DataFrame()

new1['phone']=file1['phone']

new1['contact_time']=file1['contact_time']

new2=pd.DataFrame()

new2['phone']=file2['phone']

new2['submission_audit_time']=file2['提交審核時間']

newdata=pd.merge(new1,new2,on='phone',how='left')

4.2 拼接：concat

df

df2

4.2.1 縱向表連接

df=pd.concat([df1,df2],axis=0)

4.2.2 橫向表連接

df=pd.concat([df1,df2],axis=1)

4.3 拆分：split

df1['地區(qū)'].str.split('·',3,expand=True)

df1:

df1

df1[['城市', '城區(qū)','地址']] = df1['地區(qū)'].str.split('·', 3, expand = True)

五、缺失值處理

5.1 缺失值刪除

data.dropna(axis=0,subset = ["Age", "Sex"]) ? # 丟棄‘Age’和‘Sex’這兩列中有缺失值的行

data.dropna(how = 'all') ? ?# 傳入這個參數(shù)后將只丟棄全為缺失值的那些行

data.dropna(axis = 1) ? ? ? # 丟棄有缺失值的列（一般不會這么做，這樣會刪掉一個特征）

data.dropna(axis=1,how="all") ? # 丟棄全為缺失值的那些列

5.2 缺失值填充：pandas.DataFrame.fillna()函數(shù)

DataFrame.fillna(value=None, method=None, axis=None, inplace=False, limit=None, downcast=None, **kwargs)

功能：使用指定方法填充NA/NaN值

其中inplace=True就是直接在原有基礎(chǔ)上填滿

5.3 缺失值查詢：

缺失值數(shù)量查詢：df.isnull().sum()

?原表

?結(jié)果

缺失值行查詢：df[df.isnull().T.any()]

六、CSV的時間類型問題

1.提取時間-pd.to_datetime()

newdata['during_time']=pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])

2.將時間轉(zhuǎn)化為數(shù)值-pd.to_datetime().apply(lambda x:x.days)

newdata['during_time(number)']=(pd.to_datetime(newdata['submission_audit_time'])-pd.to_datetime(newdata['contact_time'])).apply(lambda x: x.days)

七、CSV的保存和導(dǎo)出

new=pd.DataFrame()

new=newdata[newdata['during_time(number)'] ==0]

new.to_csv(save_path,encoding='utf-8-sig')

八、數(shù)據(jù)轉(zhuǎn)存

將數(shù)據(jù)按行拆分并存儲到不同的csv文件中：

path='C:/Users/EDZ/Desktop/工作/2021.08.19/'

for i in range(0,30):

? ? df.loc[[i]].to_csv(path+str(i)+'.csv',encoding='gbk')

九、修改列的順序

df = df[['購藥日期', '星期','社?？ㄌ?,'商品編碼', '商品名稱', '銷售數(shù)量', '應(yīng)收金額', '實收金額' ]]