课程介绍

B 站视频：https://www.bilibili.com/video/av31950221
观看次序: https://github.com/shuhuai007/Machine-Learning-Session

Lecture 1：开篇

主要介绍频率派和贝叶斯派的区别以及一些推荐书籍和视频

频率派和贝叶斯派

• 频率派，Maximum Likelihood Estimation (MLE，最大似然估计)，把需要推断的参数 θ 看做是固定的未知常数，即概率虽然是未知的，但最起码是确定的一个值，同时，样本 X 是随机的，所以频率派重点研究样本空间，大部分的概率计算都是针对样本 X 的分布；
• 贝叶斯派，Bayesian - Maximum A Posteriori (MAP，最大后验估计)，的观点则截然相反，他们认为参数是随机变量，而样本 X 是固定的，由于样本是固定的，所以他们重点研究的是参数的分布。

随着数据量的增加，参数分布会越来越向数据靠拢，先验的影响力会越来越小如果先验是 uniform distribution，则贝叶斯方法等价于频率方法。因为直观上来讲，先验是 uniform distribution 本质上表示对事物没有任何预判。

推荐书籍

频率派 ———— 统计机器学习
贝叶斯派 ———— 概率图模型

BOOK：

• 李航 机器学习方法：感 K 朴决逻，支提 E 隐条
• 周志华：西瓜书
• PRML
• MLAPP
• ESL
• Deep Learning

视频：

• 台大林轩田：机器学习基石和机器学习技法
• 张志华：机器学习导论，统计机器学习
• Ng:CS229
• 徐亦达
• 李宏毅

Lecture 2：数学基础

Lecture 3：线性分类

Lecture 3：降维

Lecture 4：支持向量机 (SVM)

Lecture 5：核方法 (Kernel Method)

Lecture 6：指数族分布

Lecture 7：概率图模型

Lecture 8：EM 算法

Lecture 9：高斯混合模型 (GMM)

Lecture 10：变分推断

Lecture 11：MCMC

Lecture 12：隐马尔可夫模型

Lecture 13：线性动态系统 - 卡曼滤波

Lecture 14：非线性动态系统 - 粒子滤波

Lecture 15：条件随机场

Lecture 16：高斯网络

Lecture 17：贝叶斯线性回归

Lecture 18：高斯过程回归

Lecture 19：受限玻尔兹曼机