caffe+cuda编程
来源:互联网 发布:手机淘宝首页大图尺寸 编辑:程序博客网 时间:2024/06/07 02:14
核函数
核函数的特点
- cuda代码文件的后缀为”.cu”,由单独的编译器进行编译
- 核函数是cu文件中的一部分代码,是运行在显存中的程序代码,是实现并行计算的载体
- 核函数一般放在cu文件中的前面,函数定义之前需要添加
__global__
关键字,函数体中包含CUDA_KERNEL_LOOP
循环体 CUDA_KERNEL_LOOP
循环体有两个参数,第一个是迭代器,第二个是总迭代数CUDA_KERNEL_LOOP
循环体中的代码是并行执行的,是互不关联的可独立执行的程序
示例代码
template <typename Dtype>__global__ void kernel_statistic(const int num, const Dtype* bottom_data, Dtype* temp, const int label_num, const int nsim, Dtype* counter) { CUDA_KERNEL_LOOP(index, num) { Dtype count_iter(0.0); for (int j = index + 1; j < num; ++j) { Dtype result_dot(0.0); for (int k = 0; k < label_num; ++k) { result_dot += bottom_data[index * label_num + k] * bottom_data[j * label_num + k]; } temp[index * num * 2 + j * 2] = result_dot; if (result_dot >= Dtype(1.0)) count_iter++; } counter[index] = count_iter; }}
注意事项
- 核函数中不能出现
__host__
类型的函数,例如caffe中定义的caffe_gpu开头的函数、C++ 标准库中的函数 - 核函数中的数学计算由CUDA Math API完成
- 核函数一般不需要返回值
- 核函数的参数是所有
CUDA_KERNEL_LOOP
循环体公用的,对数据的修改应该是互不干扰的,示例代码中counter
数组存储了各循环体代码计数的结果,传出后再进行累加运算得到总的统计结果。
传送门
- CUDA Math API
Forward_gpu和Backward_gpu
注意事项
- 这两个函数需要在层的hpp文件中声明
- cu文件编译生成后,cpp文件中的
Forward_cpu
函数和Backward_cpu
函数将不会被调用 - 初始化层时,cpp文件中的
LayerSetUp
函数和Reshape
函数也会被执行 - 对数组求和,可以用
caffe_gpu_asum
函数 - 数据在GPU和CPU之间的拷贝速度特别慢,在cu文件中慎用
cpu_data
函数和mutabel_cpu_data
函数 - GPU擅长处理大规模矩阵运算,核函数应简单简洁
0 0
- caffe+cuda编程
- #Caffe# Win10+VS2013+CUDA+Caffe
- caffe cuda 程序分析
- cuda caffe cudnn
- caffe-cuda测试
- cuda安装和caffe
- ubuntu caffe cuda
- CUDA编程
- cuda编程
- CUDA编程
- CUDA编程
- CUDA编程
- cuda 编程
- CUDA编程
- cuda编程
- cuda编程
- 【CUDA编程】 CUDA编程初始
- [Caffe]ubuntu无cuda安装caffe
- Leetcode 之 sumOfLeftLeave
- 6.数据库生成表策略
- 洛谷 P1002 过河卒
- 简单的按键控制LED
- linux学习笔记--cut命令
- caffe+cuda编程
- 按键控制LED实现启动、停止按钮
- 最小生成树算法---Kruscal算法和Prim算法(入门)
- java操作Excel文件
- 7.C3P0
- 02_线性表的链式表示和实现
- Web基础知识五之Html表单标记
- 知识库--StandardService + Lifecycle(start/stop)+initialize(72)
- VMware 虚拟机如何连接网络