这次整理一下常用的scikit-learn包，作为备忘 K近邻算法： from sklearn.neighbors import KNeighborsClassifier 线性回归： from sklearn.linear_model import LinearRegression 逻辑回归： from sklearn.linear_model import LogisticRgression 决策树： from sklearn.tree import DecisionTreeClassifier 朴素贝叶斯： 高斯分布：from sklearn.neive_bayes import GaussianNB 多项式分布：from sklearn.neive_baybes import MultinomnalNB 伯努利分布：from sklearn.neive_baybes import BernoulliNB 支持向量机： ...
贝叶斯决策论考虑的是如何基于相关的概率和误判损失来选择最优的类别标记 假设有N种可能的类别标记，即$\mathbf{y}=\\{c_1,c_2,...,c_N\\}$，$\lambda_{ij}$是将一个真实标记为$c_j$的样本误分类为$c_i$所产生的损失。基于后验概率$P(c_i\vert\mathbf{x})$可获得将样本$\mathbf{x}$分类为$c_i$所产生的期望损失，即在样本$\mathbf{x}$上的“条件风险”： ...
SVM是机器学习里面一个非常重要的模型，它是由统计学习理论之父弗拉基米尔·瓦普尼克提出的 本文以SVM二分类为例 推导过程 给定训练数据集$D=\\{(\mathbf{x_1},y_1),(\mathbf{x_2},y_2),...,(\mathbf{x_m},y_m)\\}, y_i \in \\{-1, +1\\}$，分类器最基本的想法就是基于训练集D在样本空间中找到一个划分空间，将不同类别的样本分开。划分超平面可用如下的线性方程描述： ...
好久没更博客了，停了大半年，也看了大半年的机器学习和深度学习方面的书籍，现在是时候输出一下了 线性回归 给定数据集$D=\\{(\mathbf{x_1},y_1),(\mathbf{x_2},y_2),...,(\mathbf{x_m},y_m)\\}$，其中$\mathbf{x_i}=(x_{i1};x_{i2};...;x_{id}), \ y_{i} \in R$. 线性回归试图学得一个线性模型 ...