中国提出深度学习处理器架构

王楠w_n

“阿尔法狗”（AlphaGo）以4：1战胜李世石，这让人工智能备受关注。AlphaGo目前使用了约170个图形处理器（GPU）和 1200个中央处理器（CPU），这些设备可能需要占用一个机房，还要配备大功率的空调，以及多名专家进行系统维护。对此，中国科学家宣称，AlphaGo目前用的芯片数量，将来如果换成中国人研制的“寒武纪”架构的芯片，估计一个小盒子就全装下了。

这意味着“阿尔法狗”将可以跑得更快些。

记者15日从中科院计算所获悉，该所陈云霁、陈天石课题组在国际上首先提出了深度学习处理器架构寒武纪。本月他们提出的深度学习处理器指令集DianNaoYu被计算机体系结构领域顶级国际会议ISCA2016所接收，其评分排名为近300篇投稿中的第一名。论文第一作者为刘少礼博士。

AlphaGo就是基于深度学习技术而战胜李世石的。深度学习是一类借鉴生物多层神经网络处理模式所发展起来的智能处理技术，已被微软、谷歌、脸书、阿里、百度等公司广泛应用于计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域。

“但是深度学习的基本操作是神经元和突触的处理，而传统的处理器指令集（X86和ARM等）是为了进行通用计算发展起来的，其基本操作为算术操作和逻辑操作，往往需要数百甚至上千条指令才能完成一个神经元的处理，深度学习的处理效率不高。”陈天石说，谷歌甚至需要用上万个X86的CPU核，运行7天来训练一个识别猫脸的深度学习神经网络。

陈云霁、陈天石课题组的深度学习处理器指令集——DianNaoYu直接面对大规模神经元和突触的处理，一条指令即可完成一组神经元的处理。陈天石解释说，与谷歌采用的通用处理器不同，我们设计的处理器芯片专门面向深度学习技术。“通用处理器做深度学习好比是用瑞士军刀切肉，而我们设计专门的切肉刀来切。”

sunzhiguolu

国人非常强大, 这才是大牛! 科学家! 科技创新的领导者! 佩服!!!

action08

怎么不是朝鲜，太不符合我的想象力了

MMMIX

没看到 paper，感觉就是个 research idea，别说硬件，软件模拟有么？

刚刚翻了下作者的个人主页，发现这东西他们已经研究好几年了，论文已经发了不少，不过进一步的下文就没有了……

cheveu

MMMIX 发表于 2016-03-16 17:20
没看到 paper，感觉就是个 research idea，别说硬件，软件模拟有么？

刚刚翻了下作者的个人主页，发现这 ...

http://www.esmchina.com/ART_8800 ... 1_0_20db7bcc-04.HTM
有硬件，自己看。

MMMIX

cheveu 发表于 2016-03-16 20:20
http://www.esmchina.com/ART_8800 ... 1_0_20db7bcc-04.HTM
有硬件，自己看。

你给我个新闻链接干吗？

MMMIX

知乎上有几个问题：
中科院说的深度学习指令集diannaoyu到底是什么?
https://www.zhihu.com/question/41216802

中科院的“寒武纪1号”芯片和IBM 的“真北”芯片有什么不同？
https://www.zhihu.com/question/26389491

cheveu

回复 6# MMMIX
有图有真相啊。让你看图片的。

   

cheveu

知乎上有几个问题：
中科院说的深度学习指令集diannaoyu到底是什么?
https://www.zhihu.com/question/41216802

这篇文章在前两轮的投稿中运气不好没能被接收，这次在体系结构的顶级会议International Symposium on Computer Architecture (ISCA) 总分排名第一，非常替它的作者们感到骄傲。只可惜ISCA没有像体系的另外两个会议MICRO和HPCA设置最佳论文。大多数现有的基于的ASIC（专有集成电路）的神经网络加速器的主要问题之一是它的可编程性跟可扩展性。它们通常是针对某一类或者小部门特定的神经网络技术跟算法设计的，控制信号设计比较high-level，对应神经网络的某一层甚至整个神经网络，好处是容易implement，坏处是缺少灵活性。比如DaDianNao可以支持feed-forward的MLP，但暂时无法支持BM。今年电路设计得顶级会议ISSCC的Session 14有6篇神经网络加速器的不同实现，它们都是application-specific的设计，基本都有类似上面提到的问题，感兴趣的可以去看一下。这篇文章提出来的指令性更加low-level，使得它可以支持不同的神经网络算法。我的理解是把现有的神经网络现有加速器的设计从“CISC”转变到"RISC"，设计原则是把复杂的high-level的功能块（比如卷积层）分解成简单的更加通用的计算单元（比如点乘），这些简单的指令集可以更加灵活支持不同类型的神经网络操作，同时还降低了指令解码器的复杂度。具体细节要等正式会议或者作者把预览文章提前挂在主页上才能知道。另外值得一提的是今年的ISCA会有很多篇关于神经网络加速器的文章，包括Stanford的Bill Dally组，MIT, UCSB, HP Labs/Utah等等，可以说是神经网络加速器在体系结构全面开花的一年。

------
中科院的“寒武纪1号”芯片和IBM 的“真北”芯片有什么不同？
https://www.zhihu.com/question/26389491

二者虽然都是neuro-inspired chip，但是本质上是完全不同的。“寒武纪一号”（DianNao）应该定义为neural network accelerator，而“真北”（TrueNorth）应该定义为neuromorphic processor。

从名称上我们就可以看到二者直接的区别。DianNao是加速人工神经网络模型的，如传统的ANN和最近比较火的CNN。这些网络模型都是创造出来完成分类、识别等任务的工具。且模型简单易懂，基本单元都是我们容易理解的数值运算。而TrueNorth加速的模型是spiking neuron。这个模型与我们人脑的突触激发原理更接近，主要用来模拟人脑的一些生物特性。

从应用领域来看，当前大红大紫的深度学习（Deep Learning）实际就属于DianNao的应用范畴，他们已经在ASPLOS’14的文章中实现了多个当前流行的深度模型，可以说在深度学习的硬件加速领域迈出了坚实的一步；TrueNorth源自IBM的SYNAPSE计划，他们的目标是将来能够完全地模拟大脑。在一两年前他们已经可以模拟到猫脑的量级，相信现在应该比以前进步了不少。个人认为，虽然后者在真正的图像、语音识别等比较“硬”的能力上不如前者，但有可能是未来真正推动“智能”的方向。当然，我们目前还没有把自己的大脑研究透彻，还要从硬件上模拟，会有很长的路要走。

可以这么说，DianNao是立足当下，TrueNorth是放眼未来。不过，我们离真正的人工智能还有很长很长的路要走。

======
本人认为，忆阻器商用之前，真北这种思路突破不了能耗比瓶颈，是个耗电的大玩具。