今天主要任務(wù)是:(1)數(shù)據(jù)加載及初步觀察;(2)pandas基礎(chǔ);(3)探索性數(shù)據(jù)分析
(1)數(shù)據(jù)加載及初步觀察
import numpy as np
import pandas as pd
import os
os.getcwd()
data= pd.read_csv('train.csv')
pd.read_csv()和pd.read_table()區(qū)別是兩著行與行之間的分隔符不一樣 在read_csv()中,定界符為,,在read_table()中,定界符為\ t。
更換DATaFrame的列索引和和行索引
data.columns=names
data=data.set_index('乘客ID')# 開始用該段代碼data.index=data['乘客ID'],存在問題是ID作為行索引,但ID還在數(shù)據(jù)中
查看數(shù)據(jù)的基本情況
data.info()
data.describe()
data.head()#讀前5行,data.head(n=10)
data.tail()#讀最后5行,data.tail(n=10)
data.isnull().sum()#查看所有列中無效值
Pandas的兩種數(shù)據(jù)類型,Series和DataFrame
Series是一維數(shù)組,有列索引
DataFrame多維數(shù)組,對應(yīng)多個索引
data['Cabin'].value_counts()# 這個函數(shù)很有用,表示該列中不同類別的個數(shù)
Pandas操作
del test_1['a']
test_1.drop(['a',‘b’],axis=1)#敲代碼是把axis=1沒有輸入,代碼有問題
data.drop(['PassengerId','Name','Age','Ticket'],axis=1).head()#data本身沒有變化,只是顯示中沒有上述幾項
midage= data[(data['Age']>10) & (data['Age']<50)]# 兩個條件有小括號
midage.loc[[100],['Pclass','Sex']]#midage = midage.reset_index(drop=True)如果不進行重定位,取出來的值是錯誤的
midage.loc[[100,105,108],['Pclass','Name','Sex']]
midage.iloc[[100,105,108],[2,3,4]]#loc 和iloc 區(qū)別
frame.sort_values(by=['a','c'],ascending=False)#對兩列進行排序的原理還沒有弄清?
對分別看看泰坦尼克號數(shù)據(jù)集中 票價、父母子女 這列數(shù)據(jù)的基本統(tǒng)計數(shù)據(jù)
text[年齡'].describe()# 可以顯示某列數(shù)據(jù)的各種統(tǒng)計數(shù)據(jù)
count 714.000000
mean? ? ? 29.699118
std? ? ? 14.526497
min? ? ? ? 0.420000
25%? ? ? 20.125000
50%? ? ? 28.000000
75%? ? ? 38.000000
max? ? ? 80.000000
Name: 年齡, dtype: float64
總的心得:(1)必須對所處理的數(shù)據(jù)進行較為詳細的分析,今天的任務(wù)只給了一個簡單的引導,后續(xù)還應(yīng)該對DATaFrame的各種函數(shù)進行熟練操作;(2)要有數(shù)據(jù)敏感性,并不是所有的數(shù)據(jù)都是對確定目標有意義的,比如在本次任務(wù)中,助教就給出了票價和生存之間可能存在強相關(guān)