深度学习之父的传奇人生

来源:互联网 发布:matlab软件价格 编辑:程序博客网 时间:2024/04/28 13:52

多伦多大学计算机系教授Geoffrey Hinton是Deep Learning的开山鼻祖,我们来讲讲他的故事。

他有个传奇的姑姑

不过先来说说他姑姑吧,他姑姑Joan Hinton是一个与中国有关的具有传奇经历的人物,中文名字 叫——寒春,是一个参加过曼哈顿计划的科学家,但是后来在中国养了几十年牛。

1945年,23岁的寒春已经是美国曼哈顿计划中的一名女科学家,参与制造了人类历史上 第一颗原子弹。中国的红色革命也深深吸引了她,于是她放弃了纯科学的研究,追随着她的丈夫、有共同理想的美国青年阳早来到了中国延安,并于1949年在革命圣地延安的窑洞里举行了烽火中的婚礼。

之后两人一起帮助中国人民发展畜牧业,为中国的奶牛事业贡献了毕生,并在北京昌平设计建造了中国第一座机械化养牛场。2003年阳早去世,骨灰就埋在 了牛场。

他姑姑是个传奇,但Geoffrey Hinton的传奇程度也不亚于她。

谷歌为了他,花几千万美元专门买了一个公司

13年,Google收购了多伦多大学的一家初创公司DNNResearch,实际上,这家公司只有三个成员,Geoffrey Hinton和他的两个刚毕业的的学生——Alex Krizhevsky 和 Ilya Sutskever。

或者我们可以理解为,Google为了让Geoffrey Hinton为他们工作,专门收购了这家公司,有人调侃到Google花了几千万美元买了几篇论文。

当然在此之前,Google也给了他的研究小组提供了60 万美元的科研经费。

Deep Learning祖师爷

Geoffrey Hinton本人正是Deep Learning学派的开山祖师爷。

何为Deep Learning?简单地说就是建立、模拟人脑进行分析学习的人工神经网络。

比如一个广为流传的例子就是,谷歌用1.6万块电脑处理器构建了全球最大的电子模拟神经网络,并通过向其展示自YouTube上随机选取的1000万段视频。在无外界指令的自发条件下,该人工神经网络自主学会了识别猫的面孔。

自从2006年被提出后,Deep Learning极大地推动了语音识别、视觉、自然语言处理等方面的进展。

探秘大脑的工作原理

在剑桥大学学习心理学时,Hinton发现人类大脑有数十亿个神经细胞,它们之间通过神经突触相互影响,形成极其复杂的相互联系。然而科学家们并不能解释这些具体的影响和联系。神经到底是如何进行学习以及计算的,这是他一直想研究的问题。

这个问题在他的努力下已经取得了部分进展。他和他的伙伴建立了一层层互相连接的人工神经元模型,模仿大脑的行为,处理视觉和语言等复杂问题。他也致力于研究可以使神经网络变得更好的方法,来更好的模拟人脑的某些方面。

在80年代初,电脑性能还远远不能处理人工神经网络(ANN)需要的巨大数据集,神经网络的研究在短暂的火热后,就陷入了低潮。

板凳坐得“三十年”冷

在之后的二十几年,虽然还是有一些研究人员坚持人工神经网络的研究,但整个学术界关于人工神经网络的研究基本都陷入了停滞,研究人员拿到不到相关的科研基金,与人工神经网络有关的优质论文发表量极少。连著名的学术会议NIPS(Advances in Neural Information Processing Systems,神经信息处理系统进展大会)都变成基本与神经网络无关的会议。

Geoffrey Hinton的学术生涯也像人工神经网络一样起起伏伏,所幸的是他一直没有放弃人工神经网络的研究。他们为实现自己的想法,定期聚集在一起召开研讨会,构建了更强大的深度学习算法,操作更大的数据集。

然而学术圈的依旧对神经网络的研究不感兴趣,他们的研究也很难申请到科研经费。学术圈的冷落其实不无理由,人工神经网络的很多成果,很难用数学予以解释或者证明,大家只是在不断调整参数,改善算法,以得到更好的结果。

事情的转机出现在2006年左右,Geoffrey Hilton和他的学生发明了用GPU来优化深度神经网络的工程方法,并发表在《Science》和相关期刊上发表了论文,首次提出了“深度信念网络”的概念。他给多层神经网络相关的学习方法赋予了一个新名词–“深度学习”。

随后深度学习的研究大放异彩,广泛应用在了图像处理和语音识别领域。比如Geoffrey Hilton的学生就用深度学习算法赢得2012年的ImageNet。

互联网的巨头开始注意到他们,这个领域才开始火热起来,深度学习领域也涌现出以Hinton、吴恩达等为首的四大深度学(tiao)习(can)天王。

深度学习和人工智能的春天

离人工智能最近的IT互联网公司敏锐嗅到了这一机遇。从2011年开始,深度学习算法的成熟令人工智能技术实现飞跃,包括微软、苹果、谷歌、Facebook、国内BAT在内的企业都开始深度布局人工智能和深度学习,试图把握风口,成为下一个产业变革的巨擘。

国内长期坚持布局人工智能的还有老牌电器厂商 - 长虹

长虹从2012年开始进入人工智能和深度学习的基础研究工作,先后在语音识别芯片开发应用、基于大数据的人工智能技术研发及应用、机器视觉(人脸识别)技术研发应用等研究。 目前,长虹在人脸识别、目标检测、目标分类方面已经积累了先进、成熟的计算机视觉算法成果。

他们近期发布了全球首款 CHiQ 人工智能电视。 长虹人工智能电视用于 认知、决策、反馈 三 大能力。

在“认知”层面上,基于长虹自主研发的Ciri+语音平台, CHiQ 实现了高效语音交互协同及语义识别与理解。其中,语音识别率达到97%,语音整机覆盖率50%,使人与电视开放式的自然语音交互距离达到30米,即用户在家庭中的任意角落都可以用语音和电视交互。

而在“决策”层面,长虹CHiQ人工智能电视可基于神经网络学习算法做出业务逻辑判断。 在“反馈层面”,其内置的个性化推荐平台,通过持续的推荐效果反馈、模型优化和产品迭代,真正实现推荐的自学习和可成长。

长虹小白,就是“住”在这个电视中的机器人精灵,她陪伴、学习、服务于用户,在看电视、听音乐、玩游戏等黑电业务上让用户得到贴心的个性化服务。

(长虹小白形象)

通俗来说,就是你可以与长虹小白对话:

小白,告诉我,有什么节目好看?Hi,我想看 高 分电影~

这些问题它都能给你及时回复(3秒内搜索启播)。它还会学习你的观看喜好与历史,给你个性化推荐节目。

据说,未来小白还会加上实体形态,加载投影能力、视觉图像技术、自动充电等等黑科技。

可以说,这款产品标志着长虹电视率先进入人工智能时代。


1 0
原创粉丝点击