Python机器学习应用 | 降维——NMF方法及实例
来源:互联网 发布:中信银行网络贷款利率 编辑:程序博客网 时间:2024/06/18 11:20
1 非负矩阵分解(NMF)
1、非负矩阵分解(Non-negative Matrix Factorization ,NMF)是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法。
2、基本思想:给定一个非负矩阵V,NMF能够找到一个非负矩阵W和一个非负矩阵H,使得矩阵W和H的乘积近似等于矩阵V中的值。
![](http://oltfslql1.bkt.clouddn.com/whv.jpg)
W矩阵:基础图像矩阵,相当于从原矩阵V中抽取出来的特征
H矩阵:系数矩阵。
3、NMF能够广泛应用于图像分析、文本挖掘和语音处理等领域。
4、矩阵分解优化目标:最小化W矩阵H矩阵的乘积和原始矩阵之间的差别,目标函数如下:
5、基于KL散度的优化目标,损失函数如下:
2 sklearn中非负矩阵分解
在sklearn库中,可以使用sklearn.decomposition.NMF加NMF算法,主要参数有:
• n_components:用于指定分解后矩阵的单个维度k;
• init:W矩阵和H矩阵的初始化方式,默认为‘nndsvdar’。
3 NMF人脸数据特征提取
3.1 背景
已知Olivetti人脸数据共400个,每个数据是64*64大小。由于NMF分解得到的W矩阵相当于从原始矩阵中提取的特征,那么就可以使用NMF对400个人脸数据进行特征提取。
通过设置k的大小,设置提取的特征的数目。在本实验中设置k=6,随后将提取的特征以图像的形式展示出来。
3.2 程序编写
3.2.1 建立工程,导入sklearn相关工具包
>>> import matplotlib.pyplot as plt#加载matplotlib用于数据的可视化>>> from sklearn import decomposition#加载PCA算法包>>> from sklearn.datasets import fetch_olivetti_faces#加载Olivetti人脸数据集导入函数>>> from numpy.random import RandomState#加载RandomState用于创建随机种子
3.2.2 设置基本参数并加载数据
n_row, n_col = 2, 3 #设置图像展示时的排列情况n_components = n_row * n_col #设置提取的特征的数目image_shape = (64, 64) #设置人脸数据图片的大小dataset = fetch_olivetti_faces(shuffle=True,random_state=RandomState(0))faces = datasets.data #加载数据,并打乱顺序
3.2.3 设置图像的展示方式
def plot_gallery(title, images, n_col=n_col, n_row=n_row): plt.figure(figsize=(2. * n_col, 2.26 * n_row)) plt.suptitle(title, size=16) for i, comp in enumerate(images): plt.subplot(n_row, n_col, i + 1) vmax = max(comp.max(), -comp.min()) plt.imshow(comp.reshape(image_shape), cmap=plt.cm.gray, interpolation='nearest', vmin=-vmax, vmax=vmax) plt.xticks(()) plt.yticks(()) plt.subplots_adjust(0.01, 0.05, 0.99, 0.94, 0.04, 0.)
3.2.4 创建特征提取的对象NMF,使用PCA作为对比
estimators = [ ('Eigenfaces - PCA using randomized SVD', decomposition.PCA(n_components=6,whiten=True)), ('Non-negative components - NMF', decomposition.NMF(n_components=6, init='nndsvda', tol=5e-3))]
3.2.5 降维后数据点的可视化
for name, estimator in estimators: print("Extracting the top %d %s..." % (n_components, name)) print(faces.shape) estimator.fit(faces) components_ = estimator.components_ plot_gallery(name, components_[:n_components])plt.show()
3.3 结果展示
阅读全文
0 0
- Python机器学习应用 | 降维——NMF方法及实例
- 6. NMF方法及实例
- Python机器学习应用 | 聚类——K-means方法及应用
- Python机器学习应用 | 聚类——DBSCAN方法及应用
- NMF 方法及其实例
- Python机器学习应用 | 降维——PCA方法及其应用
- 机器学习 python实例完成—决策树
- Python机器学习——sklearn常用模块及类及方法
- 机器学习的技术栈及应用实例脑洞
- python 机器学习——从感知机算法到各种最优化方法的应用(python)
- Andrew机器学习课程笔记(6)[End]—— 机器学习的一个应用实例
- NMF算法简介及python实现
- NMF方法简介和聚类应用
- sklearn常用模块及类及方法----机器学习Python
- 机器学习实战python实例
- 机器学习——感知器算法及python实现
- Python机器学习及实践——简介篇2
- 机器学习笔记——kd树及python实现
- mybatis的使用中,xxxx.action方法总是找不到,而配置没有问题
- Oracle RMAN 备份常用命令
- GUI图形用户界面编程
- Java的四种引用类型与ReferenceQueue
- predictionio执行train、deploy、eval的命令和执行命令后的打印输出分别如下
- Python机器学习应用 | 降维——NMF方法及实例
- 开发android应用时,更换应用图标后没生效
- Activity的深入理解
- 12. Integer to Roman-python
- Win10 装ubuntu 14.04双系统 (uefi引导)
- css通用小笔记03——浏览器窗口变小 div错位的问题
- 前端跨域请求原理及实践
- ubuntu安装ros
- redis系统命令简介笔记(2)