动手实践Scikit-learn（sklearn）
今天我们将学习被称为sklearn的scikit-learn。
在这篇文章中，我们将了解如何从动手角度使用这个机器学习库，这将帮助我们以更全面的学习sklearn。本文实际上将作为学习者的备忘单，流程包括为我们提供加载数据，预处理数据，学习如何训练和测试数据，使用有监督和无监督学习创建机器学习模型，学习如何使模型适合预测并最终了解我们如何评估模型的性能。
scikit learn是一个用于Python编程语言的免费软件机器学习库。它具有各种分类，回归和聚类算法，包括支持向量机，随机森林，梯度增强，k均值和DBSCAN，旨在与Python数值和科学库NumPy和SciPy互操作。
Scikit-learn由来
Scikit-learn最初是由David Cournapeau在2007年开发的Google summer of code项目。
后来Matthieu Brucher加入了这个项目并开始将其作为论文工作的一部分。2010年，INRIA参与其中，第一次公开发布（v0.1 beta）于2010年1月下旬发布。
该项目目前有30多名活跃的贡献者，并已获得INRIA，Google，Tinyclues和Python软件基金会的赞助。
使用sklearn库之前需要先决条件
该库基于SciPy（Scientific Python）构建，必须先安装才能使用scikit-learn。包括：
- NumPy：基本n维数组包
- SciPy：科学计算的基础库
- Matplotlib：全面的2D / 3D绘图
- IPython：增强的交互式控制台
- Sympy：符号数学
- Pandas：数据结构和分析
现在，让我们深入了解如何在各自的场景中使用。
从加载数据开始
您的数据需要是数字的，并以数字数组或SciPy稀疏矩阵的形式存储。其他可转换为数字数组的类型(如panda DataFrame)也可以接受。
>>> import numpy as np
>>> X = np.random.random((10,5))
>>> y = np.array(['M','M','F','F','M','F','M','M','F','F','F'])
预处理数据
标准化
>>> from sklearn.preprocessing import StandardScaler
>>> scaler = StandardScaler().fit(X_train)
>>> standardized_X = scaler.transform(X_train)
>>> standardized_X_test = scaler.transform(X_test)
归一化
>>> from sklearn.preprocessing import Normalizer
>>> scaler = Normalizer().fit(X_train)
>>> normalized_X = scaler.transform(X_train)
>>> normalized_X_test = scaler.transform(X_test)
Binarization
>>> from sklearn.preprocessing import Binarizer
>>> binarizer = Binarizer(threshold=0.0).fit(X)
>>> binary_X = binarizer.transform(X)
编码分类特征
>>> from sklearn.preprocessing import LabelEncoder
>>> enc = LabelEncoder()
>>> y = enc.fit_transform(y)
输入缺失值
>>>from sklearn.preprocessing import Imputer
>>>imp = Imputer(missing_values=0, strategy='mean', axis=0)
>>>imp.fit_transform(X_train)
生成多项式特征
>>> from sklearn.preprocessing import PolynomialFeatures
>>> poly = PolynomialFeatures(5)
>>> oly.fit_transform(X)
训练和测试数据
>>> from sklearn.model_selection import train_test_split
>>> X_train, X_test, y_train, y_test = train_test_split(X,y,random_state=0)
创建你的模型
监督学习
- 线性回归
>>> from sklearn.linear_model import LinearRegression
>>> lr = LinearRegression(normalize=True)
- 支持向量机（SVM）
>>> from sklearn.svm import SVC
>>> svc = SVC(kernel='linear')
- 朴素贝叶斯
>>> from sklearn.naive_bayes import GaussianNB
>>> gnb = GaussianNB()
- KNN
>>> from sklearn import neighbors
>>> knn = neighbors.KNeighborsClassifier(n_neighbors=5)
无监督学习
- 主成分分析（PCA）
>>> from sklearn.decomposition import PCA
>>> pca = PCA(n_components=0.95)
- K Means
>>> from sklearn.cluster import KMeans
>>> k_means = KMeans(n_clusters=3, random_state=0)
模型拟合
监督学习
>>> lr.fit(X, y)
>>> knn.fit(X_train, y_train)
>>> svc.fit(X_train, y_train)
无监督学习
>>> k_means.fit(X_train)
>>> pca_model = pca.fit_transform(X_train)
预测
监督
>>> y_pred = svc.predict(np.random.random((2,5)))
>>> y_pred = lr.predict(X_test)
>>> y_pred = knn.predict_proba(X_test))
无监督
>>> y_pred = k_means.predict(X_test)
评估您的模型的性能
Accuracy Score
>>> knn.score(X_test, y_test)
>>> from sklearn.metrics import accuracy_score
>>> accuracy_score(y_test, y_pred)
分类报告
>>> from sklearn.metrics import classification_report
>>> print(classification_report(y_test, y_pred)))
混淆矩阵
>>> from sklearn.metrics import confusion_matrix
>>> print(confusion_matrix(y_test, y_pred)))
回归指标
平均绝对误差
>>> from sklearn.metrics import mean_absolute_error
>>> y_true = [3, -0.5, 2])
>>> mean_absolute_error(y_true, y_pred))
均方误差
>>> from sklearn.metrics import mean_squared_error
>>> mean_squared_error(y_test, y_pred))
R2 Score
>>> from sklearn.metrics import r2_score
>>> r2_score(y_true, y_pred))
聚类指标
Adjusted Rand Index
>>> from sklearn.metrics import adjusted_rand_score
>>> adjusted_rand_score(y_true, y_pred))
Homogeneity
>>> from sklearn.metrics import homogeneity_score
>>> homogeneity_score(y_true, y_pred))
V-measure
>>> from sklearn.metrics import v_measure_score
>>> metrics.v_measure_score(y_true, y_pred))
交叉验证
>>> print(cross_val_score(knn, X_train, y_train, cv=4))
>>> print(cross_val_score(lr, X, y, cv=2))
Sckit-learn算法备忘单
