用于可扩展和节能AI的基于忆阻器交叉开关的学习系统.docx
《用于可扩展和节能AI的基于忆阻器交叉开关的学习系统.docx》由会员分享,可在线阅读,更多相关《用于可扩展和节能AI的基于忆阻器交叉开关的学习系统.docx(3页珍藏版)》请在第一文库网上搜索。
1、用于可扩展和节能AI的基于忆阻器交叉开关的学习系统得克萨斯A&M大学、RainNeuromorphics和桑迪亚国家实验室的研究人员最近设计了一种新系统,可以更有效地更大规模地训练深度学习模型。该系统在NatureE1ectronics上发表的一篇论文中介绍,它依赖于使用新的训练算法和忆阻器交叉开关硬件,可以同时执行多项操作。“大多数人将AI与智能手表的健康监测、智能手机的人脸识别等联系起来,但就消耗的能量而言,大多数AI都需要训练AI模型来执行这些任务,”资深作者SuhasKumar说道。这项研究告诉TechXp1oreo“训练发生在仓库大小的数据中心,这在经济和碳足迹方面都非常昂贵。只有经
2、过充分训练的模型才会下载到我们的低功耗设备上。”从本质上讲,Kumar和他的同事着手设计一种方法,可以减少与AI模型培训相关的碳足迹和财务成本,从而使其大规模实施更容易、更可持续。为此,他们必须克服当前AI培训实践的两个关键限制。这些挑战中的第一个与使用基于图形处理单元(GPU)的低效硬件系统有关,这些系统本身并不是为运行和训练深度学习模型而设计的。第二种需要使用低效且数学运算量大的软件工具,特别是利用所谓的反向传播算法。“我们的目标是使用新硬件和新算法,KUnIar解释道。“我们利用了之前15年在基于忆阻器的硬件(GPU的高度并行替代方案)方面的工作,以及类脑高效算法(一种非反向传播局部学习
3、技术)的最新进展。尽管硬件和软件方面的进步之前已经存在,我们对它们进行了代码设计,使其能够相互协作,从而实现非常高效的AI训练。”深度神经网络的训练需要不断调整其配置,包括所谓的“权重以确保它能够以更高的准确性识别数据中的模式。这种适应过程需要大量的乘法运算,而传统的数字处理器很难有效地执行这些运算,因为它们需要从单独的存储单元中获取与重量相关的信息。“今天几乎所有的训练都是使用反向传播算法进行的,该算法采用大量数据移动和求解数学方程式,因此适用于数字处理器,”该研究的主要作者SuinYi告诉TechXp1oreo“作为一种硬件解决方案,近十年来出现的模拟忆阻器交叉开关能够将突触权重嵌入到计算
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 用于 扩展 节能 AI 基于 忆阻器 交叉 开关 学习 系统