若米知识 > 财经 > 清华集成电路学院高滨:一种基于存算一体技术的类脑声音定位方法

清华集成电路学院高滨:一种基于存算一体技术的类脑声音定位方法

导读清华集成电路学院高滨:一种基于存算一体技术的类脑声音定位方法答近日,清华大学集成电路学院的高滨副教授课题组在《自然•通讯》(Nature Communications)上在线发表了题为“...

今天若米知识就给我们广大朋友来聊聊忆阻器芯片股票,以下关于观点希望能帮助到您找到想要的答案。

清华集成电路学院高滨:一种基于存算一体技术的类脑声音定位方法

近日,清华大学集成电路学院的高滨副教授课题组在《自然•通讯》(Nature Communications)上在线发表了题为“Memristor-Based Analogue Computing for Brain-Inspired Sound Localization with in situ training”的研究论文,提出了一种基于存算一体技术的类脑声音定位方法。面向定位任务的计算需求,提出了多阈值更新策略,缓解了忆阻器非理想因素带来的精度损失。在集成规模为1K的忆阻器阵列中,课题组成功演示了声音定位的在线训练,实现了两个数量级的能耗降低。

图1 类脑存算一体声音定位示意图

清华大学集成电路学院的高滨副教授课题组利用忆阻器的连续电导调制特性,构建了一种基于忆阻器阵列的新型类脑计算系统,应用于声音定位任务:网络包含60个输入神经元和7个输出神经元,输入、输出信息分别为双耳接收的声波信号和范围在-90度到90度之间的方位角,所有输出层神经元共同决定了预测角度。

图2 受大脑机制启发,基于忆阻器阵列的声音定位网络硬件实现方案

传统的忆阻器编程策略虽然能够大幅度降低在线训练的硬件开销,但是难以满足定位任务的精度需求。为克服这一问题,课题组提出了一种容忍忆阻器离散性的多阈值更新策略。在权重更新过程中,引入了多个判断阈值,根据权重更新值所处的区间,施加对应个数的操作脉冲。分析结果显示,多阈值更新策略实现了声音网络训练精度和硬件开销之间的平衡。

图3 兼顾忆阻器特性与硬件开销的多阈值更新策略

课题组在1K规模的TiN/TaOy/HfOx/TiN忆阻器阵列中,针对CIPIC HRTF数据集样本,成功演示了声音定位任务。实验结果表明,相比传统训练方案,采用多阈值更新策略后的网络检测精度提升了大约45.7%。此外,与先前CMOS ASIC方案的对比结果显示,该技术在实现较高定位精度的同时,展现出184倍的能耗优势。本工作为实现低能耗、高性能的类脑定位系统提供了新的解决方案。

图4 基于忆阻器阵列的声音定位功能演示与硬件评估结果

近期,该项工作的相关研究成果以“Memristor-Based Analogue Computing for Brain-Inspired Sound Localization with in situ training”为题在《自然•通讯》(Nature Communications)上在线发表。清华大学集成电路学院高滨副教授、吴华强教授是本论文的共同通讯作者,周颖、高滨和张清天为共同第一作者。该研究得到了 科技 创新2030“脑科学与类脑研究”重大项目、国家自然科学基金委杰青项目和重点项目、科学 探索 奖等项目的支持。

高滨副教授在基于忆阻器的类脑计算领域开展了多年的研究,受邀在Nature Electronics、Nature Communications、Proceedings of the IEEE等期刊撰写类脑芯片相关综述,在ASP-DAC、A-SSCC等会议做特邀报告,在IEDM、EDTM等旗舰会议担任模型分委会主席。

忆阻器的基本介绍

忆阻器,全称记忆电阻,从这两个字可以大致推敲出它的功用来。最早提出忆阻器概念的人,是华裔的科学家蔡少棠,当时任教于美国的柏克莱大学。时间是 1971 年,在研究电荷、电流、电压和磁通量之间的关系时,任教于加州大学伯克利分校的蔡教授推断在电阻、电容和电感器之外,应该还有一种组件,代表着电荷与磁通量之间的关系。这种组件的效果,就是它的电阻会随着通过的电流量而改变,而且就算电流停止了,它的电阻仍然会停留在之前的值,直到接受到反向的电流它才会被推回去。

简单说,忆阻器是一种有记忆功能的非线性电阻。通过控制电流的变化可改变其阻值,如果把高阻值定义为“1”,低阻值定义为“0”,则这种电阻就可以实现存储数据的功能。实际上就是一个有记忆功能的非线性电阻器。

用常见的水管来比喻,电流是通过的水量,而电阻是水管的粗细时,当水从一个方向流过去,水管会随着水流量而越来越粗,这时如果把水流关掉的话,水管的粗细会维持不变;反之当水从相反方向流动时,水管就会越来越细。因为这样的组件会「记住」之前的电流量,因此被称为忆阻器。

由于忆阻器尺寸小、能耗低,所以能很好地储存和处理信息。一个忆阻器的工作量,相当于一枚CPU芯片中十几个晶体管共同产生的效用。

基于忆阻器的神经网络精度如何

传统的计算机将数据储存在内存中,然后传送到处理器运算。这种来回“搬运”数据的活动耗费能源和时间,被认为是冯诺依曼计算架构的核心瓶颈。

而人类的大脑却并非如此,而是直接在记忆体里计算。被认为具有“存算一体”潜力的忆阻器,因而成为类脑计算领域的热门器件。

近日,清华大学微电子所、未来芯片技术高精尖创新中心钱鹤、吴华强团队与合作者在顶尖学术期刊、英国《自然》杂志(Nature)在线发表论文,报道了基于忆阻器阵列芯片卷积网络的完整硬件实现。

该存算一体系统在处理卷积神经网络(CNN)时能效比前沿的图形处理器芯片(GPU)高两个数量级,可以说在一定程度上突破了“冯诺依曼瓶颈”的限制:大幅提升算力的同时,实现了更小的功耗和更低的硬件成本。

基于忆阻器芯片的存算一体系统 来源:清华大学

什么是忆阻器?

忆阻器,全称记忆电阻器(Memristor),是继电阻、电容、电感之后的第四种电路基本元件,表示磁通与电荷之间的关系,最早由加州大学伯克利分校教授蔡少棠在1971年预言存在,惠普公司在2008年研制成功。

简单来说,这种组件的的电阻会随着通过的电流量而改变,而且就算电流停止了,它的电阻仍然会停留在之前的值,直到接受到反向的电流它才会被推回去,等于说能“记住”之前的电流量。

这种奇妙的效果,其实和神经元突触有相仿之处。再加上忆阻器还具有尺寸小、操作功耗低、可大规模集成(三维集成)等优点,难怪计算机科学家们在忆阻器身上看到了存算一体、低能耗类脑计算的前景。

人工神经网络近年来大放异彩,如果用忆阻器连接成阵列,作为人工神经网络的硬件,会有什么效果?

忆阻器阵列

尽管国内外许多企业、研究机构给予关注,但据清华大学新闻页面报道,当前国际上的忆阻器研究还停留在简单网络结构的验证,或者基于少量器件数据进行的仿真。基于忆阻器阵列的完整硬件实现仍然有很多挑战。

比如,器件方面,需要制备高一致、可靠的阵列;系统方面,忆阻器因工作原理而存在固有缺陷(如器件间波动,器件电导卡滞,电导状态漂移等),会导致计算准确率降低;架构方面,忆阻器阵列实现卷积功能需要以串行滑动的方式连续采样、计算多个输入块,无法匹配全连接结构的计算效率。

通过近年来积累的一些成果,钱鹤、吴华强团队逐渐优化材料和器件结构,制备出了高性能的忆阻器阵列。

2017年5月,该课题组就曾在《自然通讯》报告称,首次实现了基于1024个氧化物忆阻器阵列的类脑计算,将氧化物忆阻器的集成规模提高了一个数量级。这使芯片更加高效地完成人脸识别计算任务,将能耗降低到原来的千分之一以下。

忆阻器神经网络

这次,钱、吴团队集成了8个包括2048个忆阻器的阵列,以提高并行计算的效率。

在此基础上,他们构建了一个五层的卷积神经网络进行图像识别,获得了96%的高精度,结果显示,基于忆阻器的卷积神经网络比目前最先进的GPU的能效要高出两个数量级。

这样的提升是如何实现的?原来,为解决器件固有缺陷造成的系统识别准确率下降问题,他们提出了一种新型的混合训练算法,仅需用较少的图像样本训练神经网络,并微调了最后一层网络的部分权重。

与此同时,他们提出了空间并行的机制,将相同卷积核编程到多组忆阻器阵列中,各组忆阻器阵列可并行处理不同的卷积输入块,提高并行度来加速卷积计算。

多个忆阻器阵列并行处理

随着摩尔定律放缓,计算界翘首以待新的架构突破冯诺依曼瓶颈,适应越来越复杂的AI问题。基于忆阻器的存算一体系统在这场角逐中稳步前进。

想要成长,必定会经过生活的残酷洗礼,我们能做的只是杯打倒后重新站起来前进。上面关于忆阻器芯片股票的信息了解不少了,若米知识希望你有所收获。

本文来自网络,不代表本站立场,转载请注明出处:https://www.rm2g.com/caijing/15966.html

作者: 若米知识

若米知识为您提供最全面的生活百科网站大全,主要为您提供数码、汽车、财经、美食、财经、科技、健康、教育、创业、电商、影视、百科等资讯信息,在这里可以找到您所需的答案,解决您所困惑的问题。
退市的股票怎么处理000511.600432退市原买的股票怎么办
新股中签钱不够会原路返回吗
联系我们

联系我们

0898-88881688

在线咨询: QQ交谈

邮箱: email@wangzhan.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部