对标Tensorflow ? Vertex.AI开源深度学习框架PlaidML
来源:互联网 发布:淘宝网店运营总结报告 编辑:程序博客网 时间:2024/05/09 11:59
今天,Vertex.AI发布了开源便携式深度学习引擎PlaidML,Vertex.AI的使命是让任何人都能快速开发深度学习应用。
Vertex.AI支持开发人员、研究人员和学生常用的最流行的硬件和软件。最初版本的PlaidML在大多数现有的PC硬件上运行,包括NVIDIA、AMD或Intel的OpenCL功能的GPU。此外,我们还包括支持在广受欢迎的Keras框架运行。
PlaidML支持的框架和硬件
Vertex.AI使用PlaidML作为嵌入式设备深度学习视觉系统的核心。迄今为止,Vertex.AI专注于支持图像处理神经网络,如ResNet-50,Xception和MobileNet。
通过开源这项技术,来提高深度学习的普及性。这个版本只是第一步。目前,PlaidML支持Keras,OpenCL和Linux。将来,公司将添加对macOS和Windows的支持。
未来还将添加与TensorFlow、PyTorch和Deeplearning4j等框架的兼容性。对于视觉工作负载,Vertex.AI已经展示了硬件的结果,与供应商的引擎(如cuDNN)相当。
▍性能更新
吞吐量是计算密集型开发工作流程和使生产中最复杂的模型能够使用的关键因素。我们在之前的一篇文章中写道,将PlaidML推断吞吐量与TensorFlow在cuDNN上进行比较。
自从发布TensorFlow团队的性能进行了重大改进后,大大提高了未分配的Xception吞吐量数据。在更新到Keras 2.0.8,cuDNN 6和Tensorflow 1.3之后,它大约在PlaidML吞吐量的4%内:
Unbatch Xception推理率(ratio):1.04〜1.00(长条更好)
实际上,PlaidML的图像推理吞吐量,适用于当今的实际工作负载。下图显示了各种图像网络和GPU型号的吞吐量,单位是NVIDIA Tesla K80(长条更快)的吞吐量与TensorFlow的对比率:
Unbatched Xception跨平台推理
▍使用PlaidML
开始使用PlaidML的最快方法是安装二进制版本。有关系统要求的详细说明以及当前实现的功能,请参阅GitHub上的README。简单来说,系统要求是:
安装了64位Linux发行版的PC(我们测试了Ubuntu 16.04)
具有运行OpenCL驱动程序的GPU(用于clinfo显示已配置的设备)
安装Python 2.7
要安装PlaidML并做一个快速的基准测试,你需要做的是:
sudo pip install plaidml plaidml-keras
git clone https://github.com/plaidml/plaidbench
cd plaidbench
pip install -r requirements.txt
python plaidbench.py mobilenet
默认情况下,plaidbench将使用PlacesML进行基准测试,并得出以下结果:
Using PlaidML backend.
INFO:plaidml:Opening device "tesla_p100-pcie-16gb.0": "Tesla P100-PCIE-16GB"
…
Example finished, elapsed: 11.72719311714 (compile), 6.80260443687 (execution)
在这种情况下,Google Cloud Platform上的NVIDIA Tesla K80P100的结果为6.8秒。为了测试在Keras的TensorFlow后端运行的相同工作负载,您需要分别安装tensorflow或者连接tensorflow-gpucuDNN和其他依赖项。然后运行plaidbench与“no-plaid”选项:
输出应如下所示:
Creating TensorFlow device (/gpu:0) -> (device: 0, name: Tesla P100-PCIE-16GB, pci bus id: 0000:00:04.0)
…
Example finished, elapsed: 9.71920609474 (compile), 7.94898986816 (execution)
在第一次运行时,PlaidML可能需要更长时间才能执行,但是即使在最新的NVIDIA硬件(在这种情况下,大约为14%)中运行,也优于TensorFlow + cuDNN。
Github:https://github.com/plaidml/plaidml
★推荐阅读★
谷歌中国首席工程师详解TensorFlow
台大陈蕴侬、李宏毅“应用深度学习”课程(国语)
这些公司用AI影响1400万教师和1.88亿学生
世界最大色情网站Pornhub使用AI识别AV
DeepMind发布千年以来最强围棋选手
MIT女教授使用AI检测早期乳腺癌准确率97%
拍人更美!谷歌工程师揭秘Pixel 2手机黑科技
华为新品手机发布会全程回顾
超级计算机图像识别率达人类医生水平
长期招聘志愿者
加入「AI从业者社群」请备注个人信息
添加小鸡微信 liulailiuwang
- 对标Tensorflow ? Vertex.AI开源深度学习框架PlaidML
- TensorFlow深度学习框架
- TensorFlow深度学习框架
- TensorFlow深度学习框架
- TensorFlow深度学习框架
- TensorFlow深度学习框架
- 为深度学习环境安装开源深度学习框架Tensorflow(Ubuntu16.04+CUDA+cuDNN+Anaconda+Tensorflow)
- AI 从业者该如何选择深度学习开源框架
- AI 从业者该如何选择深度学习开源框架
- AI 从业者该如何选择深度学习开源框架
- AI 从业者该如何选择深度学习开源框架丨硬创公开课
- 深度学习框架TensorFlow学习笔记(1)
- 深度学习框架TensorFlow 官方文档中文版
- 关于深度学习框架TensorFlow的调研
- TensorFlow与主流深度学习框架对比
- TensorFlow实战Google深度学习框架(一)
- 浅谈tensorflow框架和深度学习应用
- 关于《TensorFlow 实战Google深度学习框架》
- 【常用类】包装类
- 三星电子投资AI公司“深鉴科技”:曾发布中国首个深度学习SDK
- 模块依赖性
- 前特斯拉核心技术专家谷俊丽加入小鹏汽车
- MooseFS及其高可用部署
- 对标Tensorflow ? Vertex.AI开源深度学习框架PlaidML
- magento索引失效,如何刷新索引
- java集合框架02——ArrayList和源码分析
- 网站架构学习(六)之网站的伸缩性架构
- FPGA 作业一
- 一篇文章全吃透—史上最全YYModel的使用详解
- JAVA;使用java.awt.Image的不稳定性
- mongoDB的学习
- 1024,挖财&饿了么联合发布《互联网从业者生活品质报告》;大数据照进航天领域|ServiceHot一周热闻