C中实现矩阵乘法的一种高效的方法
来源:互联网 发布:亚马逊数据怎么分析 编辑:程序博客网 时间:2024/05/30 22:43
作者: 字体:[增加 减小] 类型:转载 时间:2013-05-04 我要评论
如何计算矩阵乘法,这个大家都知道。通常情况下,我们都是用以下代码实现的:
for(i=0;i<n;++i)
for(j=0;j<n;++j){
sum=0;
for(k=0;k<n;++k)
sum+=A[i][k]*B[k][j];
C[i][j]+=sum;
}
但是考虑了高速缓存的问题后,其实有一种更好的实现方式:
for(i=0;i<n;++i)
for(k=0;k<n;++k){
r=A[i][k];
for(j=0;j<n;++j)
C[i][j]+=r*B[k][j];
}
细看一番就会发现这两种实现语义是等价的,但是后者的实际运行效率却比前者高。
那为什么会如此呢?
那是因为CPU读数据时,并不是直接访问内存,而是先查看缓存中是否有数据,有的话直接从缓存读取。而从缓存读取数据比从内存读数据快很多。
当数据不在缓存中时,CPU会将包含数据在内的一个数据块读到缓存,如果程序具有良好空间局部性,那么第一次cache miss后,之后的几次数据访问就可以直接在缓存中完成。除了空间局部性(程序倾向于引用与当前数据邻近的数据)之外,还有时间局部性(程序倾向于引用最近被引用过的数据)。
回到矩阵乘法。(我们只考虑内循环)
前者对矩阵A,有良好的空间局部性,假设一次能缓存四个元素,则每次迭代对于A只有0.25次miss,但是对于B,则不然,因此B是按列访问的,每次访问都会miss,因此每次迭代总的miss数是1.25。
后者对于矩阵C和矩阵B都有良好的局部性,每次迭代都只有0.25词miss,因此总的miss数是0.5。后者每次迭代多了一次存储(对C[i][j]写入),但是即便如此,后者的运行效率也比前者高。
总而言之,要想程序跑得快,就要在程序中多利用局部性,让缓存hold住你的数据,减少访存次数。要知道CPU可以在3个时钟周期内访问到L1 cache,10个时钟周期左右的时间访问到L2 cache。访问内存却要上百个时钟周期,孰快孰慢,很清楚了吧?
- C中实现矩阵乘法的一种高效的方法
- 一种在SQLServer中实现Sequence的高效方法
- 矩阵乘法的C语言实现
- 【矩阵乘法】:矩阵乘法的基本实现
- 基于哈希表构建高效 矩阵存储结构--矩阵的一种存储方法 哈希矩阵。
- 矩阵乘法的opencv实现
- 矩阵乘法的多线程实现
- 矩阵乘法的算法实现
- n阶矩阵的乘法(C实现)
- C语言之两矩阵乘法的实现
- 矩阵的乘法和求逆(C语言实现)
- MPI矩阵乘法的两种实现方法
- 大整数乘法的一种实现~~~
- MapReduce的矩阵乘法的实现
- 比较高效的一种分页方法
- 比较高效的一种分页方法
- 高效读入数据的一种方法sasfile
- 位序转字符串的一种高效方法
- 《Android 开发工程师面试指南》
- HashMap源码分析——JDK1.8
- idea报错Cannot compile Groovy files: no Groovy library is defined for module 'xx'
- apt命令应用全解析
- IP协议
- C中实现矩阵乘法的一种高效的方法
- UE4配置Andrid时识别不出安卓设备的解决方法
- 前端js校验 自己编的校验工具
- 大数据可视化第三天——D3.js初探:饼形图
- MATLAB 2015B 破解版安装详细教程
- leetcode 328. Odd Even Linked List
- 二叉搜索树的后序遍历序列
- Linux笔记
- VGA、QVGA、CIF、SXGA等视频格式尺寸