scikit_learn里的 pipeline

pipeline 實(shí)現(xiàn)了對全部步驟的流式化封裝和管理，可以很方便地使參數(shù)集在新數(shù)據(jù)集上被重復(fù)使用。

pipeline 可以用于下面幾處：

• 模塊化 Feature Transform，只需寫很少的代碼就能將新的 Feature 更新到訓(xùn)練集中。
• 自動(dòng)化 Grid Search，只要預(yù)先設(shè)定好使用的 Model 和參數(shù)的候選，就能自動(dòng)搜索并記錄最佳的 Model。
• 自動(dòng)化 Ensemble Generation，每隔一段時(shí)間將現(xiàn)有最好的 K 個(gè) Model 拿來做 Ensemble。

要用 Pipeline 對訓(xùn)練集和測試集進(jìn)行如下操作：

1. 先用 StandardScaler 對數(shù)據(jù)集每一列做標(biāo)準(zhǔn)化處理，（是 transformer）
2. 再用 PCA 將原始的 30 維度特征壓縮的 2 維度，（是 transformer）
3. 最后再用模型 LogisticRegression。（是 Estimator）
4. 調(diào)用 Pipeline 時(shí)，輸入由元組構(gòu)成的列表，每個(gè)元組第一個(gè)值為變量名，元組第二個(gè)元素是 sklearn 中的 transformer
   或 Estimator。
5. 注意中間每一步是 transformer，即它們必須包含 fit 和 transform 方法，或者 fit_transform。
   6.最后一步是一個(gè) Estimator，即最后一步模型要有 fit 方法，可以沒有 transform 方法。

Pipeline對象接受二元tuple構(gòu)成的list，每一個(gè)二元 tuple 中的第一個(gè)元素為 arbitrary identifier string，我們用以獲?。╝ccess）Pipeline object 中的 individual elements，二元 tuple 中的第二個(gè)元素是 scikit-learn與之相適配的transformer 或者 estimator。

sklearn_pipeline.png

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import LabelEncoder
from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline


df = pd.read_csv('data/bcw.csv', header=None)

X, y = df.values[:, 2:], df.values[:, 1]

encoder = LabelEncoder()
y = encoder.fit_transform(y)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.2, random_state=0)


pipe_lr = Pipeline([('sc', StandardScaler()),
                    ('pca', PCA(n_components=2)),
                    ('clf', LogisticRegression(random_state=1))
                    ])
pipe_lr.fit(X_train, y_train)
print('Test accuracy: %.3f' % pipe_lr.score(X_test, y_test))