英特尔首个神经网络处理器揭开面纱，幕后推手是这位42岁的冒险家

本篇文章4724字，读完约12分钟

nav ana创始人naveen rao

要了解计算机神经科学家纳文·拉奥，只要看看他的手。

这位42岁的医生在滑雪、滑板、骑自行车、轮滑、驾驶赛车、摔跤和打篮球时伤了十根手指。

他是一个冒险家，不断挑战身体和精神的极限。在科学研究中，他试图通过创造受人类大脑结构和行为启发的芯片和软件来加速计算机行业进入人工智能的新时代。

让拉奥与其他尝试同样事情的人不同的是，英特尔去年以4亿美元收购了拉奥在圣地亚哥创立的内尔瓦纳公司。

这是一个认证标志。英特尔是计算机芯片行业的巨头，年销售额约为600亿美元。但与此同时，它也是一个老巨人，英特尔将在明年庆祝其50岁生日。这家公司错过了转向移动计算的最佳时机，但现在是时候重新站起来了。

现在，英特尔正试图抓住行业中的下一个新浪潮:人工智能。更准确地说，这是人工智能的一部分，叫做深度学习。

为人工智能量身定制的特殊芯片深度学习是一个新的、更具营销性的术语，它已经存在了几十年，以前被称为神经网络。与传统计算机不同，神经网络不是以串行模式运行计算，而是模仿人脑中神经簇的行为，传输信号并对其进行约束，将数据排列成与人类记忆大致相似的模式。

为什么高深的学问会突然兴起？或许依靠安装在智能手机、无人驾驶飞机、监控摄像机和其他设备上的传感器，我们可以从世界各地创建大量数据，然后将这些数据引导到更强大的计算机硬件上。这种结合使得神经网络方法得到了广泛的应用。

因此，idc半导体分析师马里奥·莫拉莱斯认为，计算机行业的变化比英特尔或其他任何人预期的都要快。专家表示，人工智能现在是一项重要的成长型业务，将为提供最佳硬件和软件的公司赚取数十亿美元。

他是一名计算机建筑师和神经科学家

这就是拉奥发挥作用的地方。他的工作是帮助英特尔的中央处理器发展，这是主导半导体行业数十年的产品。自20世纪70年代个人电脑革命开始以来，Cpu一直是每台台式机和笔记本电脑的核心。此前，有两家公司在这个领域占据主导地位:一家是微软及其操作系统软件，另一家是英特尔及其英特尔内部处理器。

深度学习软件运行在cpu上，但效率不高。Cpu本质上是一个通用设备，而不是深度学习的专用芯片，这必然带来一些固有的缺点。例如，用多核芯片和图形处理器进行深度学习类似于用汽车拉货。由于汽车自身特性的限制，货运能力与真正的大马力、高负荷的卡车有一定的差距。

相反，它需要“特制”的计算机硬件，即特殊的芯片，来处理混乱的海量数据和控制复杂的机器。这就是拉奥和内尔瓦纳想要做的。如果他们成功了，英特尔也将收获果实。

对神经网络上瘾的纳文·拉奥(Naveen rao)穿着t恤和蓝色牛仔裤，拥有运动员般的美丽身材。他是印度移民的孩子，在肯塔基州东部一个名叫怀特斯堡的小镇上长大。20世纪70年代末，他的医生的父亲开了40分钟的车，带拉奥和他的兄弟去了一个无线电室，在一台落地电脑上用basic为他们编程。那时我们家里没有电脑。饶说道。

饶的童年是在农村度过的。他喜欢在户外玩，《龙与地下城》以及阿西莫夫、海因莱因和托尔金的小说。之后，饶进入了杜克大学。在那里，他被神经网络所吸引，因为他知道人眼是如何在视觉物体上找到边缘的。当时，边缘检测技术是计算机视觉领域的一个前沿问题，有很多解决方案，包括神经网络。

他最初在硅谷的太阳微系统公司从事计算机芯片的研究和开发，但他仍然被神经学所吸引。所以他决定辞去计算机工程师的工作，回到学校。在神经科学先驱约翰·多诺霍的领导下，他获得了布朗大学的博士学位。

毕业后，他去了位于圣地亚哥西部的芯片制造商高通公司，并带领一个团队进行神经网络研究，旨在建立一个受生物学启发的人工神经网络。(这个项目后来成为零人工智能，这是一个软件平台，帮助公司用高通芯片构建了一个深度学习系统。(

饶说，高通公司正在做有趣的工作。然而，当公司拒绝将他的研究成果转化为产品时，他决定成立自己的公司。他在2014年创建了内尔瓦纳。不久，大公司开始对此感兴趣。

饶表示，当英特尔发现另一家大型科技公司在四处窥探时，它很快采取了行动。这对拉奥有好处。最重要的是，他找到了一家在芯片制造方面表现出色的公司。他说，这方面最好的是英特尔。

分析师同意这一观点。他们有世界上最好的制造工厂。Linley Gwennap是Linley集团的创始人，也是半导体行业的长期分析师，他说，和英特尔一起，你可以以英特尔的名义进入市场，利用英特尔的资源。

绝地反击:英特尔神经网络处理器英特尔和神经网络处理器提供了一系列软件工具，开发人员可以用来编写深度学习程序。同样重要的是，内尔瓦纳正在制造一种名为莱克丝特的神经网络计算机芯片，英特尔将在今年年底前发布该芯片。

英特尔神经网络处理器系列芯片

这种芯片有了最新的进展。

在10月17日举行的wsj d.live会议上，英特尔正式发布了专门为机器学习设计的英特尔神经网络处理器(nnp)系列芯片，这是业界首款用于神经网络处理的芯片。

英特尔首席执行官柯再奇随后在官方博客上宣布:

当我们将新一代人工智能硬件推向市场时，我们很高兴facebook能够提供密切合作并分享其技术见解。

这款英特尔神经网络处理器将为各行各业带来人工智能计算革命。借助英特尔神经科技术，企业将能够开发新的人工智能应用程序来处理海量数据，为客户提供更好的洞察力，并实现业务转型。

我们正在开发更多的英特尔神经产品。这些产品将为人工智能模型提供更高的性能和可伸缩性，这将使我们超越去年设定的目标，即到2020年人工智能性能提高100倍。

英特尔现任副总裁兼人工智能产品部门总经理纳文·拉奥(Naveen rao)在一篇博文中详细介绍了这种新芯片(全文附在文章末尾)。他指出，经过三年的发展，这种全新的神经核神经网络处理器家族代号为莱克斯特，这将大大提高深度学习的速度和计算效率。

很少有人否认人工智能和机器学习的重要性，这已经成为发展最快的技术趋势之一。Nvidia近年来迅速成名，因为它的gpu芯片已经成为人工智能和机器学习的工作标准。

英特尔还决定走在这一趋势的前列，作为巩固其在数据中心领域优势的战略之一。这也解释了为什么英特尔在过去18个月中一直强调其fpga加速器的能力，该加速器用于加速英特尔专用计算芯片的深度学习工作负载。

然而，许多fpga将被神经网络处理器推到一边，这提供了许多相同的速度和性能优势。这是因为这些芯片采用了一种新的内存架构，rao说这是为了最大化处理速度而设计的。与以前的芯片不同，nervana系列没有管理缓存层，而是使用软件来管理片内存储器，以确定其对不同操作的分配。

饶表示，这一功能使nervana芯片能够实现新一代的计算密度和性能，用于深度学习。他解释说，这种芯片有一种叫做大规模双向数据传输的简单技术，这种技术可以使多个处理器作为一个大型虚拟芯片使用，这种芯片可以容纳更大的人工智能模型，并且比以前更快地提供更好的洞察力。

这家伙能帮助英特尔赶上人工智能的潮流吗？英特尔掀起了一场收购狂潮。2016年，它收购了硅谷公司movidius，这家公司专门为包括无人机在内的消费设备制造智能视觉芯片。今年早些时候，它又斥资153亿美元收购了以色列的一家制造无人驾驶汽车摄像头、芯片和软件系统的制造商mobileye。

它还与一家专门为特定应用定制芯片的公司合作，并收购了另一家生产能够根据当前工作重新编程固件的芯片的公司。

英特尔需要将这一切结合起来。当英特尔收购内尔瓦纳时，它认为这个小公司是它进入人工智能的基础。它让拉奥负责英特尔的所有人工智能工作，并直接向英特尔首席执行官柯再奇汇报。

然而，在文化和技术实施方面，合并将是一件非常复杂和微妙的事情。分析师gwennap表示，英特尔在收购初创企业方面记录不佳。他指出，在苹果推出iphone之前，英特尔有一个无线设备芯片部门，该公司在2006年将其出售给了marvell技术集团。

为了纠正错误，英特尔在2010年收购了英飞凌科技的无线部门，但是文化冲突和技术差异使英特尔脱离了手机游戏。像arm holdings(现在是软银的一部分)这样灵活的公司已经很容易地收购了移动芯片业务。

dfj风险投资公司的Steve jur vetson(Nevana的Nevana投资人)认为，如果英特尔让饶放手，他可能会帮助英特尔推动文化变革。尤尔韦森说:

饶是一个多才多艺的人，他整合多学科思想的能力非常出色。

他有一种教授般的热情。

他喜欢教别人，讨论他们想法的可行性。但如果他认为某件事不是个好主意，他不会退缩。

饶承认，他遇到了英特尔老员工的一些抵制，但他认为，公司已经放弃了英特尔总是知道什么是最好的想法。他说收购内尔瓦纳不是英特尔五年前会做的事情。

这是一种开放的文化。我可以说，嘿，伙计们，你们不明白。饶说，有时他会发现自己在会议上拍桌子。但他表示有信心柯再奇会支持他。

纳文·拉奥目前是英特尔副总裁兼人工智能产品部总经理

附件:naveen rao写了一篇文章来解释英特尔神经网络处理器的四个关键技术特性。正如英特尔首席执行官柯在奇今天早些时候在《华尔街日报》的直播活动中所讨论的那样，英特尔将很快推出世界上第一个处理器系列英特尔神经网络处理器系列(前称湖冠)，该系列自始至终都是专门为人工智能设计的。

这个处理器系列已经研发了三年多。作为开发团队的代表，我想分享世界上第一个神经网络处理器设计背后的动机和初衷。

深度学习的计算需求要求对支持人工智能计算的硬件进行一些新的思考。因此，我们设计了一种新的深度学习芯片——英特尔神经网络处理器。

英特尔nervana nnp是一种专为深度学习设计的架构。这种新架构的目标是提供深度学习所需的灵活性，支持所有深度学习原语，并使核心硬件组件尽可能高效。

我们设计了英特尔nervana nnp，以保护我们免受现有硬件的限制，这些硬件不是专门为人工智能设计的。

1.新的内存架构旨在最大限度地提高硅计算的利用率

矩阵乘法和卷积是深度学习核心的一些重要原语。这些计算不同于一般的工作负载，因为操作和数据移动在很大程度上是先验已知的。因此，英特尔nervana nnp没有标准的缓存层次结构，片内存储器由软件直接管理。更好的内存管理使芯片能够在每个芯片上实现大量计算的高水平利用，这意味着深度学习模型训练可以更快地完成。

2.实现人工智能模型的新的可伸缩性

借助高速片内和片外互连设计，英特尔nervana nnp可实现大量双向数据传输。具体的设计目标是实现真实模型的并行性，其中神经网络参数分布在多个芯片上。这允许多个芯片作为一个大的虚拟芯片，可以容纳更大的模型，允许客户从他们的数据中获得更多的洞察力。

3.高数值并行性:flexpoint

单芯片上的神经网络计算主要受电源和存储带宽的限制。为了实现更高吞吐量的神经网络工作负荷，除了上述记忆创新，我们还发明了一种新的数字格式称为flexpoint。Flexpoint允许标量计算实现为定点乘法和加法，同时允许共享指数的大动态范围。由于每个电路都很小，这导致芯片上的并行性大幅提高，同时降低了每次计算的功耗。

4.表演

当前的人工智能革命实际上是计算的进化。自从集成电路发明以来，英特尔一直是推动计算极限的核心。我们在工业和研究方面有早期的合作伙伴，他们正与我们同行，共同推广第一个商用神经网络处理器，并对各行各业产生积极影响。我们有一个产品路线图，它将使我们能够超越去年设定的目标，到2020年将深度学习培训的绩效提高100倍。

洛杉矶时报；汇编:技术行者>