清华大学人工智能创新团队在AI对抗性攻防竞赛中获得冠军
来源:互联网 发布:windows system 编辑:程序博客网 时间:2024/05/01 21:16
清华大学张钹院士带领的人工智能创新团队在 NIPS 2017 AI 对抗性攻防竞赛中获得冠军(指导教师:朱军、胡晓林、李建民、苏航),战胜来自斯坦福、约翰霍普金斯大学等世界著名高校在内的 100 多支代表队,在人工智能技术的鲁棒性和安全性应用方面迈出了重要一步。
以深度学习为代表的人工智能系统近年来在图像分类、目标识别等诸多任务中都获得了突破性进展,但是研究发现深度学习模型在鲁棒性上存在严重的不足,很多在特定数据集上测试性能良好的模型反而会被一些人眼不容易识别的「对抗」样本欺骗,导致出现高可信度的错误判断,这就给未来人工智能技术的应用带来严重的安全隐患,引起了国内外诸多研究机构的广泛关注。
针对这一问题,谷歌大脑(Google Brain)于 NIPS2017 上组织了面向对抗样本攻防(Adversarial Attacks and Defenses)的竞赛。清华大学计算机系博士生董胤蓬、廖方舟和庞天宇(指导教师:朱军、胡晓林、李建民、苏航)所组成的代表队在全部三项比赛任务中(有/无特定目标攻击;攻击检测),全部获得冠军,战胜了包括斯坦福、约翰霍普金斯大学等世界著名高校在内的 100 多支代表队,在人工智能模型的鲁班性和安全性应用方面迈出了重要一步。
对抗样本是指攻击者通过向真实样本中添加人眼不可见的噪声,导致深度学习模型发生预测错误的样本,如下图所示:给定一张图片(雪山或河豚),攻击方给图片添加了微小的扰乱,尽管人眼很难发觉,但是模型却高概率的将其误分(狗或螃蟹)。
对抗样本示例,左列为真实样本,中间列为噪声,右列为对抗样本。
随着深度学习在各个领域发挥着日益重要的作用, 防止对抗样本对深度学习系统的干扰、提高模型的鲁棒性和可靠性成为关键的研究课题, 特别是在一些对于可靠性要求很高的应用领域, 例如自动驾驶、医疗、金融、安全等。
正是由于对抗样本具有重要的学术研究和实际应用价值,谷歌在 NIPS2017 上组织了首届对抗性攻防竞赛,旨在推动此领域的发展。比赛分为三个项目,包括无目标地生成对抗样本(分类错误即可)、有目标地生成对抗样本(分类错误为指定类别)和防御对抗样本。比赛采用对抗式模式,通过攻击者和防守者互相对抗,计算攻击和防御的成绩。
清华大学团队在全部三个项目中取得了第一名的成绩,并在有目标攻击和防御两个项目上取得了远超过第二名的得分。在比赛中,该团队提出了基于动量的迭代式攻击方法和高层特征指导的降噪器,展示出了很好的攻击和防御效果,为此领域的发展做出了突出的贡献,为人工智能系统在实际应用中的鲁棒性和安全性检验提供了新的验证基准。技术细节在后续的报道中会进一步跟进。
清华大学团队部分成员与竞赛组织者 Ian Goodfellow、Alexey Kurakin 的合影
NIPS 是机器学习领域的顶级国际会议,于 12 月 4 日-9 日在美国洛杉矶的长滩举行,该团队今年有 4 篇论文被录用。至今,该团队已经连续 8 年均有论文在 NIPS 发表。
- 清华大学人工智能创新团队在AI对抗性攻防竞赛中获得冠军
- 如何在 ImageNet 比赛中获得冠军?
- AI ON IA,英特尔加速人工智能创新和发展--英特尔人工智能论坛在京召开
- 中国人工智能AI专家齐聚共论创新与发展
- 我校学子在山东省ACM竞赛中获得优异成绩
- 如何在 ImageNet 比赛中获得冠军?| 硬创公开课
- Python语言在人工智能(AI)中的优势
- Python语言在人工智能(AI)中的优势
- 天池医疗AI大赛冠军团队算法分享:肺部结节智能检测 | 公开课
- 天池医疗AI大赛冠军团队算法分享:肺部结节智能检测 | 公开课
- 【回顾】天池医疗AI大赛冠军团队算法分享:肺部结节智能检测
- 报名 | PHM竞赛史上首个中国本土冠军团队经验分享
- 人工智能(AI)
- 人工智能(AI)
- 机器学习:在Android中集成TensorFlow (深度学习,AI,人工智能,DL,ML,神经网络)
- 很高兴获得了CIKM Competition数据挖掘竞赛的冠军
- 在创新中崛起
- 《英国政府发布人工智能报告,用 AI 创新优势提升英国国力》笔记
- Maven系列之99.0-does-not-exist
- 结合生成式与判别式方法,Petuum新研究助力医疗诊断
- 海云数据首发图易 AI 能力服务平台新品,图易 6 塑造 AI 能力新物种
- linux学习第三十五篇:LAMP架构介绍,MySQL_MariaDB介绍,MySQL安装
- python 3.0操作mysql数据库
- 清华大学人工智能创新团队在AI对抗性攻防竞赛中获得冠军
- 利息计算器(interest calculator)
- 如何让一部分人先拆起来?我们和菜鸟网络聊了聊
- 长文回顾NIPS大会最精彩一日:AlphaZero遭受质疑;NIPS史上第一场正式辩论和LeCun的激情抗辩/据理力争;元学习&深度强化学习亮点复盘。
- 18-CSS 2D改变 透视
- Spring事务配置
- 刚刚!没参加饭局的马云用iDST的语音技术买了张地铁票,竟然没说唤醒词
- 听说IBM发布了一款「为AI而生」的芯片?这事儿要从AI数据的传输与存储说起
- zTree初体验(一)获取所有选中节点数据