PCA SVD LDA --- Machine Learning笔记1
来源：互联网 发布：unity3d游戏开发pdf 编辑：程序博客网 时间：2024/06/06 01:26
PCA推导部分与笔记详见笔记本与UFLDL教程
从几何上形象地对SVD与特征值的理解：
https://my.oschina.net/findbill/blog/535044
其实SVD包含于PCA之中，相比于针对方阵的特征值分解，SVD普适性更强。
主成分分析（PCA）与LDA有着非常近似的意思，LDA的输入数据是带标签的，而PCA的输入数据是不带标签的，所以PCA是一种unsupervised learning。LDA通常来说是作为一个独立的算法存在，给定了训练数据后，将会得到一系列的判别函数（discriminate function），之后对于新的输入，就可以进行预测了。
而PCA更像是一个预处理的方法，它可以将原本的数据降低维度，而使得降低了维度的数据之间的方差最大（也可以说投影误差最小，具体在之后的推导里面会谈到）。PCA是完全无参数限制的。在PCA的计算过程中完全不需要人为的设定参数或是根据任何经验模型对计算进行干预，最后的结果只与数据相关，与用户是独立的。
这个优点同样存在代价：如果用户对观测对象有一定的先验知识，掌握了数据的一些特征，却无法通过参数化等方法对处理过程进行干预，可能会得不到预期的效果，效率也不高。
http://www.cnblogs.com/LeftNotEasy/archive/2011/01/08/lda-and-pca-machine-learning.html
LDA部分，比较西瓜书公式后阅读待续。
1 0
- PCA SVD LDA --- Machine Learning笔记1
- PCA SVD LDA
- [Machine Learning]--Single Value Decomposition(奇异值分解) & PCA & LDA
- 偏差、方差、SVD、PCA、LDA
- 【Machine Learning】笔记：主成份分析 PCA
- Machine Learning---11--svd
- Machine Learning PCA
- Machine Learning---10--pca
- 笔记-SVD&PCA
- 斯坦福公开课Machine Learning笔记(十二)--PCA
- Machine learning- PCA and ICA
- machine learning之PCA、ICA
- stanford machine learning 笔记 1
- [machine learning]clusteing algo and PCA
- Andrew Ng Machine Learning 专题【PCA】
- Machine Learning-PCA(Principal Component Analysis)
- [Machine Learning]PCA 算法 python 实现
- 机器学习笔记(11)-PCA/SVD
- GPU 共享内存bank冲突(shared memory bank conflicts)
- 1125. Chain the Ropes 解析
- Android中自定义属性attrs.xml、TypedArray的使用
- 关于addShutdownHook()
- 父类委托机制[2]父类委托机制真的安全吗
- PCA SVD LDA --- Machine Learning笔记1
- Tomcat多应用共享Session
- 二叉树
- caffe深度学习网络(.prototxt)可视化工具
- Linux测试工具详解
- Java多继承方法(名)冲突和成员内部类、局部内部类、静态内部类、匿名内部类
- Java直接插入排序
- MediaCodec解码aac,播放
- MySQL数据库性能测试的方法
