OpenMP和MPI并行模式的区别?
来源:互联网 发布:网络语言一米是多少钱 编辑:程序博客网 时间:2024/06/05 01:05
1.OpenMP
OpenMP是一种用于共享内存并行系统的多线程程序设计的库(Compiler Directive),特别适合于多核CPU上的并行程序开发设计。它支持的语言包括:C语言、C++、Fortran;不过,用以上这些语言进行程序开发时,并非需要特别关注的地方,因为现如今的大多数编译器已经支持了OpenMP,例如:Sun Compiler,GNU Compiler、Intel Compiler、Visual Studio等等。程序员在编程时,只需要在特定的源代码片段的前面加入OpenMP专用的#pargma omp预编译指令,就可以“通知”编译器将该段程序自动进行并行化处理,并且在必要的时候加入线程同步及通信机制。当编译器选择忽略#pargma omp预处理指令时,或者编译器不支持OpenMP时,程序又退化为一般的通用串行程序,此时,代码依然可以正常运作,只是不能利用多线程和多核CPU来加速程序的执行而已。
OpenMP使得程序员可以把更多的精力投入到并行算法本身,而非其具体实现细节。对基于数据分集的多线程程序设计,它是一个很好的选择。同时,使用OpenMP也提供了更强的灵活性,可以较容易的适应不同的并行系统配置。线程粒度和负载平衡等是传统多线程程序设计中的难题,然而,在OpenMP中,OpenMP库从程序员手中接管了部分这两方面的工作,从而使得程序员可以更加专注于具体的算法本身,而非如何编程使得代码在CPU负载平衡和线程粒度方面做出平衡。但是,作为高层抽象,OpenMP并不适合需要复杂的线程间同步和互斥的场合。OpenMP的另一个缺点是不能在非共享内存系统(如计算机集群)上使用。在这样的系统上,MPI使用较多。
标准并行模式执行代码的基本思想是,程序开始时只有一个主线程,程序中的串行部分都由主线程执行,并行的部分是通过派生其他线程来执行,但是如果并行部分没有结束时是不会执行串行部分的。这就是标准的并行模式fork/join式并行模式,共享存储式并行程序就是使用fork/join式并行的,OpenMP亦是如此。
2.MPI
MPI(MPI是一个标准,有不同的具体实现,比如MPICH等)是多主机联网协作进行并行计算的工具,当然也可以用于单主机上多核/多CPU的并行计算,不过效率低。它能协调多台主机间的并行计算,因此并行规模上的可伸缩性很强,能在从个人电脑到世界TOP10的超级计算机上使用。缺点是使用进程间通信的方式协调并行计算,这导致并行效率较低、内存开销大、不直观、编程麻烦。
OpenMP是针对单主机上多核/多CPU并行计算而设计的工具,换句话说,OpenMP更适合单台计算机共享内存结构上的并行计算。由于使用线程间共享内存的方式协调并行计算,它在多核/多CPU结构上的效率很高、内存开销小、编程语句简洁直观,因此编程容易、编译器实现也容易(现在最新版的C、C++、Fortran编译器基本上都内置OpenMP支持)。不过OpenMP最大的缺点是只能在单台主机上工作,不能用于多台主机间的并行计算!部分转载自:http://blog.csdn.net/carson2005/article/details/7604061
- OpenMP和MPI并行模式的区别?
- OpenMP: OpenMP和MPI是并行编程
- OpenMP和MPI是并行编程
- 【MPI学习7】MPI并行程序设计模式:MPI的进程组和通信域
- 【MPI学习7】MPI并行程序设计模式:MPI的进程组和通信域
- OpenMP: OpenMP和MPI比较
- openmp,mpi和pthread的差别
- openmp,mpi和pthread的差别
- OpenMP和MPI比较
- OpenMP和MPI
- OpenMP和MPI
- 【MPI学习3】MPI并行程序设计模式:不同通信模式MPI并行程序的设计
- 【MPI学习3】MPI并行程序设计模式:不同通信模式MPI并行程序的设计
- 矩阵乘的MPI并行程序 MPI主从模式
- OpenMP和MPI的区别(不断总结、汇总、更新中)
- 并行编程方式:OpenMP + MPI +Mapreduce
- eclipse openmp mpi并行编程例子
- MPI和OpenMP优缺点比较
- Angular.js 初体验
- 《C语言及程序设计初步》第37讲实践项目
- CSS常用属性之定位属性
- mybatis教程
- 自定义View-跑马灯效果
- OpenMP和MPI并行模式的区别?
- 聊一聊Android 6.0的运行时权限
- DropDownList绑定动态数据并显示已经选中的数据
- spark之基础学习篇:load文件 — WordCount
- 记录一下 PDO与 PDO_MYSQL 安装 经历
- ButterKnife的使用
- IntelliJ IDEA15 激活
- Servlet入门第二个例子
- 提交表单时,固定jsp页面<select>标签下option的值不刷新