中科院提出国际首个深度学习指令集
2016年03月10日 来源:新华社
记者在两会期间从中科院计算所获悉,该所研究员陈云霁、陈天石领导的课题组提出了深度学习处理器指令集“电脑语”,并被“计算机体系结构国际研讨会”(ISCA2016)接收,其评分名列所有投稿的第一名。
据了解,2014年,陈云霁、陈天石课题组在国际上提出了首个深度学习处理器架构“寒武纪”,而“电脑语”是“寒武纪”的指令集,由此成为国际首个深度学习指令集。
3月9日,基于深度学习的围棋程序AlphaGo在第一轮对弈中打败职业棋手李世石,让深度学习智能处理技术广为人知。
陈天石告诉《中国科学报》记者,深度学习是一类借鉴生物的多层神经网络处理模式发展起来的智能处理技术。此类技术已被微软、谷歌、脸书、阿里、讯飞、百度等公司广泛应用于计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域,并取得了极好的效果。因此,深度学习被公认为目前最重要的智能处理技术。
不过,深度学习的基本操作是神经元和突触的处理,而传统的处理器指令集(包括x86和ARM等)是为了进行通用计算发展起来的,其基本操作为算术操作(加减乘除)和逻辑操作(与或非),往往需要数百甚至上千条指令才能完成一个神经元的处理,导致深度学习的处理效率不高。为此,谷歌甚至需要使用上万个x86中央处理器核运行7天,以训练一个识别猫脸的深度学习神经网络。
“电脑语”指令则直接面对大规模神经元和突触的处理。一条指令即可完成一组神经元的处理,并对神经元和突触数据在芯片上的传输提供一系列专门支持。模拟实验表明,采用“电脑语”指令集的深度学习处理器相对于x86指令集的中央处理器有两个数量级的性能提升。
据介绍,“寒武纪”在深度学习处理器指令集上的开创性进展,为我国占据智能产业生态的领导性地位提供了技术支撑。自2014年中科院提出首个深度学习处理器“寒武纪”之后,深度学习处理器已成为ISCA最关注的研究方向之一。在ISCA 2016上,有近1/6的论文引用“寒武纪”的工作进行深度学习处理器探索。
“目前,像AlphaGo这样的软件算法是在GPU上执行的,将来如果使用了带有‘电脑语’指令集的‘寒武纪’处理器,深度学习(神经网络)的运算速度会得到明显提升。”陈天石说。(记者倪思洁)
《中国科学报》 (2016-03-10 第3版 综合)