离开百度的吴韧，这两年做了什么？

曾任百度杰出科学家的吴韧，在硅谷的Santa Clara开了一家AI芯片公司——NovuMind（异构智能）。

在当今竞争激烈的边缘设备深度学习加速器市场上，NovuMind正在向前迈进。在 2016 年 12 月A轮融资获得洪泰基金、宽带资本、真格基金等投资的 1500 万美元后，NovuMind即将开始第二轮筹款，这也是吴韧最近出现在北京的原因。吴韧近期在EE Times的独家访谈中，讨论了NovuMind的发展动向他所希望公司能够达到的成就。我们在此基础上进行了整理，探一探，离开百度的吴韧，做了些什么。

光辉往昔，黯然离去

吴韧 1984 年毕业于成都气象学院电子系，在国内从事了一段时间的计算机研究工作后，上世纪 90 年代，吴韧重返校园，并最终获得了伦敦大学皇后玛丽学院的博士学位。他是中国大陆最早进行计算机中国象棋研究的人工智能专家，他也是GPU计算的先驱，在世界上率先用GPU进行大数据解析并取得卓越成绩。他曾是惠普实验室CUDA研究中心的项目负责人（Principle Investigator）并随后在AMD就职。 2013 年 9 月，当时还是AMD异构系统首席软件架构师的吴韧，离职加入百度深度学习研究院，以“杰出科学家”的身份投入深度学习的研究， 负责百度人工智能计算架构和图像识别。

不过，吴韧也曾面临一些争议。 2015 年 6 月，吴韧领导的团队被ImageNet取消了大规模视觉识别挑战赛（ILSVRC）的资格。官方原因是，该团队向测试服务器提交了超过 40 次测试，超出规定的 2 次。随后，吴韧否认团队在比赛中进行作弊。百度最终将团队负责人吴韧开除，团队成员也被分派到百度其他部门。对此，吴韧的回应是“被人设了局，百度是最大输家”。

东山再起，依旧精彩

从 2015 年 7 月起至今，NovuMind成立已经有两年，主要为智能为汽车、安防、医疗、金融等领域提供ASIC芯片（Application Specific Integrated Circuit），并提供训练模型的全栈式AI解决方案。目前接洽的合作伙伴有来自中国、美国和欧洲等地的企业。

吴韧表示，NovuMind与Nvidia GPU或Cadence DSP的通用深度学习芯片不同，它专注于开发一种“非常专用但非常高效地进行推理”的深度学习加速器芯片。NovuMind设计了一种仅使用3× 3 卷积过滤器的AI芯片。

在人工智能算法迅猛发展的时代，这种做法似乎有点反常。这或许与吴韧更关注系统有关，在他看来，想要实现真正无处不在的人工智能，就需要在可用的终端实现人工智能系统。NovuMind关注的，是“不变的神经网络的核心”。他解释道，5x5 卷积可以通过堆叠较少计算的两个3x3 过滤器来完成，7x7 可以通过堆叠三个来完成。 “因此，只要用3x3 的过滤器就可以达到效果了。”

吴韧表示，边缘设备的深度学习加速器中，对比单点计算的CPU，可以看做一维计算的DSP（Digital Signal Processor）和二维即使按的GPU（Graphics Processing Unit）以及TPU（Tensor Processor Unit）等架构的最大的问题，就是处理器的利用率很低。 NovuMind则通过使用独特的张量处理架构（tensor processing architecture）直接对三维Tensor进行处理而根本解决了这个效率问题。需要指出的是，谷歌的TPU并不是直接处理Tensor。

NovuMind的第一个AI芯片（原型）预计会在今年圣诞节前推出。吴韧表示，到明年 2 月份，他希望应用程序都准备就绪，并能够在该芯片上实现耗能不超过 5 瓦进行 15 万亿次浮点运算。

NovuMind的第二个芯片，耗能将不超过 1 瓦，计划在 2018 年中期面世。

吴韧的AI芯片的重点在于，不仅让一个小型的互联网“边缘”设备具有“看”的能力，而且还具备“思考”（以及识别）的能力，另外，这些都不需要通过数据中心的支持，不占用任何带宽。吴韧将之称为智能物联网（I2oT，Intelligent Internet of Things）。NovuMind的新芯片将支持Tensorflow（开源软件库），Cafe和Torch模型。他希望，他的新芯片的能让强大高效的AI无处不在。

据吴韧去年对媒体的透露，NovuMind的独家秘笈是一台完全自行研制的，用来训练深度神经网络的超级计算机，在用于训练深度审计网络时，与英伟达的超级计算机DGX- 1 相比，速度快 32 倍。这台计算机给了NovuMind训练出比其他对手更强的模型的能力，不管训练数据是图像、语言还是其他类型的数据。

扩大团队，拥抱未来

除了为NovuMind获得更多的资金支持，有报道称，吴韧也将大规模扩张国内团队。现在Novumind共有员工 50 人，其中 35 名工程师在美国工作，其余 15 人在北京。虽然该公司的总部在硅谷，但是国内的广阔市场也是他们的发展重点，这也意味这他们会面临着较大人才缺口。雷锋网(公众号：雷锋网)发现，在NovuMind的官网上，也有1/ 3 的板块是关于人才招聘的。

在AI人才上，吴韧更欣赏全栈式的人才，在专注于芯片、算法、架构中的单独一项之外，还要对整个系统有深入的了解。这与NovuMind的公司定位不谋而合，他认为，NovuMind是一个集终端、算法、神经网络、超级计算机、数据处理分析和云端的全栈解决方案。

NovuMind提供了一种全新的人工智能应用方式，而NovuMind中的“Novu”，在拉丁语中的含义就是“新”。雷锋网认为，这是吴韧的新开始，也是人工智能值得关注的新方法。