华人迷信家造全球首个存算一体通用AI芯片,类脑计算关键元件再获验证

来源:DeepTech深科技      日期:2019-08-31 16:19:00    http://healthsick.com

原标题:华人迷信家造全球首个存算一体通用AI芯片,类脑计算关键元件再获验证

作为模仿人类大年夜脑处理信息的计算技巧,神经形状计算被认为是完成通用人工智能的重要偏向之一。

它与传统的计算技巧比拟,最重要的一个差别在于其摆脱冯·诺依曼架构存算分别的枷锁,寻求人脑神经元的高效整合情势,将数据存储和处理的功能集中在雷同的计算单位上,从而可以能效更高、性能更好、速度更快地停止数据的处理,是以颇受人工智能范畴的存眷。

个中,一种名为“忆阻器”的硬件元件是神经形状计算完成的关键。简单来讲,忆阻器即同时兼备记忆和电阻的功能。

近日,密歇根大年夜学卢伟传授及其团队迈出了重要一步,成功研收回全球第一款基于忆阻器阵列的通用 AI 芯片。这款新型 AI 芯片的创新的地方在于一切的存储计算功能都集成在同一个芯片上,从而真正完成了存算一体化,并且可以经过过程编程应用于多种人工智能算法,进一步进步计算速度,并增添能量消耗。相干研究于 7 月 15 日发表在 Nature Electronics 上。芯片设计的协作者包含密歇根大年夜学的张振亚(Zhengya Zhang)传授和 Mike P. Flynn 传授的团队。

图丨卢伟、张振亚、Mike P. Flynn(来源:黉舍官网)

在接收 DeepTech 独家专访时,卢伟传授表示,今朝来看,基于推理的边沿计算场景(edge computing)是这类新型 AI 芯片很合适切入的一个应用处景。别的,团队曾经成立了公司以推动下一代产品的贸易化。

“我们发表的这个芯片照样用于科研和验证概念,并没有深度优化。我们曾经开端研究设计更优化和功能更完美的下一代芯片”,卢伟传授表示。

而除卢伟的团队,投入到神经形状计算芯片研究中的公司还包含 IBM(TrueNorth 项目)、英特尔(Loihi项目)、高通(Zeroth项目)等行业巨擘,和知存科技、西井科技等国表里始创公司,上个月刷屏的清华“天机”类脑计算芯片异样也属于存算一体偏向下的创新冲破。随着愈来愈多创新冲破的完成,下一世代的计算技巧正离我们愈来愈近。

图丨忆阻器阵列芯片(来源:Robert Coelius,Michigan Engineering)

下一世代的计算趋势:存算一体

现有的冯·诺依曼计算体系靠不合的单位存储数据和履行计算,随着数据量的增长和算法复杂程度的晋升,数据在存储器和运算器之间存取的时间消费,是进一步晋升计算性能的瓶颈。

特别是在人工智能算法的运转过程当中,一旦将数据存入硬盘而不是体系内存中,计算速度就会成百倍地降低,电源消费也会成百倍地增长。即使所稀有据都可以或许存储在内存中,现有的中心处理芯片也须要从内存中读取数据,然则数据在内存和中心处理器之间的往复存取过程,会消费大年夜量的时间和电力动力。

针对这一成绩,诸多的芯片公司、始创公司和迷信家们投入了大年夜量的时间和资金,来研究若何将计算机中的运算从中心处理器转入内存中停止,这类办法也被称为存算一体化。这一方法不只可以晋升计算速度,也能够增添计算功耗。

图丨(来源:格罗宁根大年夜学)

卢伟简介,存算一体架构关于须要处理大年夜量数据的应用处景如 AI 异常有吸引力,幻想的存算一体架构能把全部 AI 模型存在芯片上并直接在存储单位上运转。如许可以完全舍弃外置存储单位如 DRAM,以极大年夜地进步芯片的功耗比和处理量。现有和正在研发的处理筹划大年夜概有以下几种:

1. 应用现有的存储技巧比如 SRAM,这类筹划比较成熟,被很多始创公司和科研机构所采取。然则,由于 SRAM 密度和功耗的限制,它只能用在很小的“玩具模型(toy model)”上。大年夜的模型还须要将参数贮存在外置的 DRAM 上,全部体系的功耗比会是以敏捷降低。

2. 新型的非易掉性存储器(non-volatile memory, NVM)比如 RRAM、STT-MRAM,这个偏向异样有很多公司感兴趣。这类嵌入式 NVM 有欲望完玉成部模型的片上存储,但其局限是,模型的运算还须要经过过程当中心处理器 CPU,其实不克不及完全处理数据传输比如总线的梗塞成绩。

3. 真正意义上的存算一体构造会尽可能防止应用 CPU,而经过过程嵌入的 NVM 直接做运算。个中的艰苦在于,怎样处理应用存储单位做运算带来的模仿旌旗灯号的误差成绩,和怎样完成足够精度和高效的模仿/数字旌旗灯号转换。

第三种筹划实际上最有效力,不过今朝的停顿还在筹划 1,2 的前面”,卢伟传授说。

在此次研究中,团队则成功验证了小范围的、真实的存算一体架构(筹划 3),完成了包含推理(inference)和在线进修(online learning)等多种功能,同时细心分析了模仿旌旗灯号的误差成绩和模仿/数字旌旗灯号转换电路的影响。

别的,现有的存算一体化芯片,常常是为某个特定的人工智能成绩而设计,或许须要额外的处理器来驱动,这在很大年夜程度下限制了存算一体化芯片的推行和应用,而由卢伟团队研究开辟的这款芯片,不须要额外的帮助就可以完成关于多种算法的存算一体化。

首个基于忆阻器的通用 AI 芯片

忆阻器和其他非易掉性内存器件是完成存算一体化异常合适的选择。

在人工智能和深度进修算法中, 核心运算主如果大年夜量的向量-矩阵乘法(Vector-Matrix Multiplication, VMM)。由于基于忆阻器阵列的芯片应用了模仿电路而非数字电路,使得其关于 VMM 的计算是异常高效的,并且曾经在多项研究中显示出在人工智能计算范畴中的潜力。

忆阻器的概念最早由加州大年夜学伯克利分校传授 Leon O. Chua(蔡少棠)于 1971 年提出,并在 2008 年由惠普公司研收回首个固态忆阻器。忆阻器是一个具有两个端口的主动电子元件,类似于公众熟知的电阻元件。不合的是,其电阻值可以经过过程流经这个电阻的电流改变,也就是说这类电阻具有记忆电流和电荷的才能 。忆阻器阵列的电路构造是类似矩阵的纵横阵列。在 VMM 的运算中,芯片应用纵横阵列中的电阻值来贮存矩阵数据,经过过程输入的电压值来控制与矩阵相乘的向量,从而可以从输入的电压中取得向量-矩阵相乘的成果。

图丨电阻、电容和电感器以外,应当还有一种元件,代表着电荷与磁通量,即忆阻器(来源:维基百科)

这款新研发的芯片,就是将 5832 个忆阻器元件和一个 OpenRISC 处理器集成在一路,还添加了486 个特制数字-模仿电路转换器, 162 个特制模仿-数字电路转换器,和两个混淆旌旗灯号接口用来完成忆阻器模仿电路和中心处理器电路的连接。

全功率任务下,芯片只需 300 毫瓦的功耗,就可以完成每秒每瓦特 1880 亿次运算。固然计算速度比拟于英伟达最新推出的人工智能芯片(每秒每瓦特可达 9.09 万亿次运算)略显减色,但这款芯片在功耗和数据存取上有着明显的优势。

而在通用性的验证上,团队应用忆阻器阵列芯片,完成了三种人工智能的算法。起首是称为“感知器”(perceptron)的有名机械进修算法,该算法也是最为罕见的用来停止信息分类的机械进修算法之一。团队用这款芯片成功地完成了单层感知器的运算,并将其用来辨认希腊字母的有噪图片。

这款芯片完成的另外一种更复杂的算法是“稀少编码”(sparse coding)算法。这类算法经过过程比较神经元来优化神经搜集,剔除有效的神经元,找出最优的神经元连接方法,进而针对目标找出最优的神经搜集,可以用来有效地停止特点提取、数据紧缩和数据分类等任务。

最后,这款芯片完成的是双层神经搜集的无监督进修算法,用来辨认和断定乳房肿瘤图象。神经搜集中的第一层应用主成分分析办法,来自立辨认图象中的特点,第二层应用感知器来进一步断定图象中的肿瘤能否是恶性的。这类算法在这款芯片上运转的精确率可以高达 94.6%,这一成果曾经异常接近在传统芯片上运转取得的 96.8% 的精确率。这一纤细差距,主如果忆阻器元件在分类界线上的电荷不肯定性形成的。

图丨忆阻器阵列芯片(来源:Robert Coelius,Michigan Engineering)

固然,这款忆阻器芯片仍有很大年夜的优化和晋升空间。IEEE Spectrum 称,他们在芯片中应用了 40 年前的 180 纳米的晶体管,而假设应用 2008 年 40 纳米的晶体管技巧, 便可以将功耗持续降低至 42 毫瓦,并可将计算效力进步至每秒每瓦特 1.37 万亿次运算。相较而言,英伟达的最新人工智能芯片应用的是更加先辈的 2014 年的晶体管束造工艺。

卢伟也表示,曾经开端研究设计更优化和功能更完美的下一代芯片,会应用更快和更先辈的晶体管,和更多的忆阻器阵列,从而可以经过过程多个阵列运转更复杂的神经搜集算法。如今,团队曾经成立了一家名为“ MemryX”的始创公司,会进一步将这款芯片贸易化。

(来源:MemryX)

MemryX 的目标是供给成熟的、商用性的存算一体架构处理筹划。我们今朝曾经有了异常本质性的停顿”,他说。

值得一提的是,卢伟传授参与创建的另外一家始创公司 Crossbar 也专注于忆阻器的研究和在人工智能芯片范畴的开辟。在存储器行业, Crossbar 向市场推出 Crossbar ReRAM 处理筹划,曾经成为新型存储技巧的引领者之一,中芯国际早在 2016 年就宣布和 Crossbar 协作,将其 ReRAM技巧集成到多种设备上;2018年,Crossbar 也与航空航天芯片制造商 Microsemi 签订了协作协定,并且推出了人脸辨认和汽车牌照识其他芯片原型。

参考:

https://spectrum.ieee.org/tech-talk/semiconductors/processors/first-programmable-memristor-computer

存眷 DeepTech

发明改变世界的新兴科技

(微旌旗灯号:deeptechchina)

原标题: 华人迷信家造全球首个存算一体通用AI芯片,类脑计算关键元件再获验证

本文地址:http://healthsick.com/keji/156724495831334.html 转载请注明出处!

上一篇:虚拟化技巧生长编年史

下一篇:前往列表

     资讯|不雅点|文娱|体育|互联网|科技|教导|文明|旅游|安康|汽车|房产| 网站地图

Copyrights © 2014-2018 艺山资讯网 healthsick.com All rights reserved.