深度学习优化
最优化是一个十分困难的问题，通常要精心设计一个目标函数及相关约束，同时还要确保所要优化的问题为凸函数，但现实中的问题大多为非凸函数，针对非凸优化问题，这里有一些基本的优化方法：SGD、Momentum、AdaGrad、RMSProp及Adam等 ...
2018
FFM模型原理
CTR(点击率)预测在内容推荐投放中有着重要地位，而FFM模型擅长于处理这方面的数据，FFM模型是FM模型的变种，或者说FM模型是FFM模型的特例 ...
决策树
决策树，一种常见的机器学习方法，有种类似于流程图那样的。就是对一个样本按其某个特征的取值将其划分到一个集合中，并递归下去 基本算法 Input: 训练集$D=\\{(\mathbf{x_1},y_1),(\mathbf{x_2},y_2),...,(\mathbf{x_m},y_m)\\}$; 属性集$A=\\{a_1,a_2,...,a_d\\}$ ...
Scikit-learn调包合集
这次整理一下常用的scikit-learn包，作为备忘 K近邻算法： from sklearn.neighbors import KNeighborsClassifier 线性回归： from sklearn.linear_model import LinearRegression 逻辑回归： from sklearn.linear_model import LogisticRgression 决策树： from sklearn.tree import DecisionTreeClassifier 朴素贝叶斯： 高斯分布：from sklearn.neive_bayes import GaussianNB 多项式分布：from sklearn.neive_baybes import MultinomnalNB 伯努利分布：from sklearn.neive_baybes import BernoulliNB 支持向量机： ...