明尼苏达大学双城分校的工程琢磨职员拓荒出一种先辈的硬件配置,可将人为智能(AI)盘算操纵中的能耗起码低落 1000 倍。这项琢磨揭晓正在《天然》杂志出书的同业评审科学杂志《npj 尽头规盘算》上。琢磨职员具有该配置所用时间的多项专利。
跟着人为智能操纵需求的无间增进,琢磨职员平昔正在琢磨若何正在依旧高本能和低本钱的同时,创筑更节能的流程。一样,机械某人为智能流程正在逻辑(编造内治理音讯的地方)和内存(存储数据的地方)之间传输数据,须要花消豪爽的电力和能源。
明尼苏达大学科学与工程学院的一个琢磨幼组揭示了一种新形式,正在这种形式下,数据悠久不会脱节内存硬件,这种形式被称为盘算随机存取内存(CRAM)。
明尼苏达大学电气与盘算机工程系博士后琢磨员、论文第一作家吕杨说:这项办事是 CRAM 的初度测验演示,数据可能全体正在内存阵列内治理,而无需脱节盘算机存储音讯的网格。
国际能源机构(IEA)揭晓了一份环球能源运用预测预测,人为智能的能源花消或者翻一番,从 2022 年的 460 太瓦时(TWh)增至 2026 年的 1,000 太瓦时(TWh)。这大致相当于日本世界的耗电量。
据新论文的作家称,基于 CRAM 的机械研习推理加快器估量可完毕 1000 次的校正。另一个例子显示,与守旧伎俩比拟,可俭朴 2500 和 1700 倍的能源。
这项琢磨依然有20多年的汗青了。该论文的资深作家、明尼苏达大学麦克奈特特聘教养兼电气与盘算机工程系罗伯特-F-哈特曼讲座教养王筑平说:20年前,咱们最初提出的将存储单位直接用于盘算的观点被以为是嚣张的。
自2003年以还,咱们的学生团队无间进展巨大,明尼苏达大学也创筑了一支真正跨学科的西宾团队,从物理学、质料科学与工程、盘算机科学与工程,到筑模和基准测试,再到硬件创筑,咱们都博得了踊跃的功效,现正在咱们依然声明,这种时间是可行的,并已打算好将其操纵到时间中。
磁地道结 (MTJs) 是一种纳米组织器件,用于校正硬盘驱动器、传感器和其他微电子编造,搜罗磁随机存取存储器 (MRAM),MRAM 已被用于微限造器和智能腕表等嵌入式编造。
CRAM 系统组织完毕了真正的内存盘算,冲破了守旧冯-诺依曼系统组织中动作瓶颈的盘算与内存之间的壁垒,守旧冯-诺依曼系统组织是存储措施盘算机的表面策画,简直是通盘新颖盘算机的底子。
动作一种能效极高的基于数字的内存盘算基板,CRAM 尽头活泼,可能正在内存阵列的任何地方举行盘算。是以,咱们可能从新设备 CRAM,使其最适合各样人为智能算法的本能需求,盘算架构专家、论文联合作家、明尼苏达大学电气与盘算机工程系副教养 Ulya Karpuzcu 说。与当今人为智能编造的守旧修筑模块比拟,它尤其节能。
CRAM 直接正在内存单位内践诺盘算,有用诈骗了阵列组织,无需举行迟钝而耗能的数据传输。最高效的短期随机存取存储器(RAM)配置运用四五个晶体管来编码一个 1 或 0,而 MTJ(一种自旋电子配置)只需很少的能量就能完毕不异的功效,速率更速,况且能适合卑劣的境遇。自旋电子器件诈骗电子的自旋而不是电荷来存储数据,为守旧的晶体管芯片供给了更高效的替换计划硬件。
目前,该团队已策画与搜罗明尼苏达州正在内的半导体行业指点者协作,供给大界限的演示和坐褥硬件,以推感人为智能功效。进步的硬件修设将人为智能能耗下降1000倍