sklearn中文学习手册.pdf

2018/2/25 1.1. 广义线性模型 — scikit-learn 0.19.0 中文文档 - ApacheCN 首页 安装 文档 示例 时光轴 项目相关 贡献者 GitHub 1.1. 广义线性模型 下面是一组用于回归的方法，其中目标值 y 是输入变量 x 的线性组合。 在数学概念中，如果 是预测值。 » 在整个模块中，我们定义向量 作为 coef_ ，定义 作为 intercept_ 。 如果需要使用广义线性模型进行分类，请参阅 logistic 回归 。 1.1.1. 普通最小二乘法¶ LinearRegression 拟合一个带有系数 的线性模型，使得数据集实际观测数据和预测数据 （估计值）之间的残差平方和最小。其数学表达式 为: LinearRegression 会调用 fit 方法来拟合数组 X ， y ，并且将线性模型的系数 存储在其成员变量 coef_ 中: from sklearn import linear_model reg linear_model.LinearRegression () reg.fit ([[0, 0], [1, 1], [2, 2]], [0, 1, 2]) LinearRegression(copy_X=True, fit_intercept=True, n_jobs=1, normalize=False) reg.coef_ array([ 0.5, 0.5]) 然而，对于普通最小二乘的系数估计问题，其依赖于模型各项的相互独立性。当各项是相关的，且设计矩阵 的各列近似线性相关，那么，设计矩阵会趋向 于奇异矩阵，这会导致最小二乘估计对于随机误差非常敏感，产生很大的方差。例如，在没有实验设计的情况下收集到的数据，这种多重共线性 （multicollinearity）的情况可能真的会出现。 示例: Linear Regression Example . 普通最小二乘法复杂度 该方法使用 X 的奇异值分解来计算最小二乘解。如果 X 是一个 size 为 (n, p) 的矩阵，设 ，则该方法的复杂度为 1.1.2. 岭回归 Ridge 回归通过对系数的大小施加惩罚来解决 普通最小二乘法 的一些问题。 岭系数最小化的是带罚项的残差平方和， 其中， 是控制系数收缩量的复杂性参数： 的值越大，收缩量越大，这样系数对共线性的鲁棒性也更强。 Previous Next /cn/0.19.0/modules/linear_mod