机器学习的数学、概率论基础

1、如何理解概率密度函数

 1、1    什么是凸函数？

 1、2    正定矩阵 -->  矩阵的秩 -->

  1.3   线性代数在线学习

  1.4 向量的求导数

2、特征函数--->泰勒公式(上)（下）----->牛顿插值法

3、逻辑回归的起源（人口公式推论而来）

4、最大熵模型推导---->拉格朗日函数对偶问题---->kkt条件（原问题==对偶问题）

5、   极大似然估计  ---> 先验和后验概率

6、最大熵最优化---->牛顿法、 拟牛顿法、 梯度下降