中国模拟AI芯片取得突破,有望提速1000倍并大幅降低能耗

阅读约需 8 分钟
中国模拟AI芯片取得突破,有望提速1000倍并大幅降低能耗

计算架构迎来重大转变

中国研究人员推出了一款突破性的模拟计算芯片,处理人工智能工作负载所需的能量仅为传统数字处理器的一小部分,为开发更可持续的AI硬件迈出了重要一步。本周发表于《自然·通讯》的一项研究中,北京大学科学家展示了这款电阻式随机存取存储器芯片能够利用数据集训练推荐系统,其规模可与Netflix和雅虎所用的数据集相当;与先进数字处理器相比,该芯片速度快12倍,能耗仅为其二百分之一。

目录
  1. 计算架构迎来重大转变
  2. 突破精度瓶颈
  3. 从数学理论走向实际应用
  4. 全球半导体产业背景
  5. 技术局限与未来发展
  6. 要点

这一突破验证了早先的理论主张,并推动这项技术从简单的数学基准测试走向实际应用。论文第一作者孙中表示,这项成果让模拟计算向前迈进了一步,并指出新芯片在处理复杂任务的同时,保留了模拟计算固有的速度和能效优势。在此之际,全球数据中心正面临AI训练带来的电力需求激增,一些设施的耗电量相当于小型城市。

这项研究建立在团队此前的工作之上。去年10月,团队首次宣布,他们解决了专家所说的困扰模拟计算一个世纪的精度难题。当时,研究人员表示,这款芯片的处理速度有望达到英伟达H100图形处理器等顶尖数字芯片的1000倍,能效则高出100倍。最新发表的研究证实了芯片在实际应用中的性能提升,尽管提升幅度低于最初的理论预测,同时展示了其在个性化推荐和图像处理方面的能力。

传统计算机以二进制数字,也就是0和1,处理信息;模拟系统则操纵电流等连续物理信号。数字计算类似只有开、关两个位置的普通电灯开关,而模拟计算更像调光开关,可以在连续范围内调节数值。这种根本差异使模拟芯片能够利用物理特性而非二进制代码进行计算,从而绕开传统处理器受限于内存与处理单元之间数据传输所造成的高能耗问题。

在人工智能行业面临能源危机之际,这项进展尤为关键。训练一个大型语言模型就可能消耗数兆瓦时的电力,全球数据中心的耗电量甚至超过一些发达国家。随着半导体元件制造逐渐逼近原子尺度,传统数字处理器正面临根本性的物理限制。要让性能持续提升,架构创新正变得比制造工艺进步更为必要。

广告

然而,模拟系统长期以来一直难以实现高精度。数字计算机通过逐步执行算法得出精确结果,模拟设备则容易受到信号干扰和噪声影响,因此难以胜任复杂的现代应用。尽管模拟技术源远流长,包括利用相互啮合的齿轮预测天体位置、有着两千多年历史的古希腊天文计算器安提基西拉机械装置,但由于这一局限,数十年来模拟技术一直被视为历史遗物。

突破精度瓶颈

北京大学团队通过创新的双电路架构解决了这一局限,将模拟计算的速度与数字系统的精度结合起来。这款芯片采用电阻式随机存取存储单元,通过调节电极间的电阻来存储数据。研究人员将这些单元配置成两个不同的电路,先快速生成近似解,再通过迭代处理加以优化,最终实现与32位浮点数字计算相当的精度。

精度长期以来一直是模拟计算的核心瓶颈。如何在模拟计算中同时实现高精度和可扩展性,从而利用其固有优势处理现代计算任务,是困扰全球科学界一个世纪的难题。

该校助理教授孙中解释说,这种方法将传统模拟计算的精度提高了5个数量级,也就是约10万倍。第一个电路产生的结果误差率约为1%;经第二个电路进行三轮优化后,误差降至与标准数字处理器相当。团队通过求解16×16实值矩阵求逆问题,展示了这项能力,精度达到24位定点数水平。

这项创新的核心技术电阻式随机存取存储器,与传统的晶体管计算有显著不同。RRAM单元可作为忆阻器,通过改变内部电阻来记住此前流经的电流。这一特性使芯片能够在同一物理位置同时存储和处理信息,消除内存与处理器之间的分离,避免传统计算机耗能在总线线路上来回传输数据。

矩阵运算构成现代人工智能、机器学习和无线通信的数学基础。训练神经网络或处理6G网络信号时,计算机必须求解涉及海量数字网格的方程。数字处理器按顺序处理这些任务,将计算拆解成长串二进制运算;模拟芯片则能并行处理矩阵,直接在存储器阵列中进行计算,无需将信号转换为二进制代码。

广告

解决精度难题的历史意义不容低估。模拟计算早于数字技术,早期实例包括1936年问世的苏联水力积分器,它利用流体在管道中流动来求解数学方程。尽管出现过这类创新,但随着数字技术成熟,噪声和可扩展性问题还是让模拟系统逐渐被淘汰。如今,这款新芯片利用现代电阻式存储技术重拾这些理念,有望让数十年前被弃用的架构重新得到应用。

从数学理论走向实际应用

最初公布的消息聚焦于理论性能,而最新发表的研究则证明,这款芯片在符合行业需求的实际AI工作负载中也能发挥作用。它成功利用规模可与Netflix和雅虎所用数据集相当的数据处理个性化推荐系统,展现出超越简单数学基准测试的能力。在图像压缩测试中,该系统重建图像数据的质量几乎与全精度数字计算相同,同时将存储需求减半。

这些应用涉及当前令全球数据中心资源不堪重负的数据密集型任务。推荐算法为流媒体服务、社交媒体平台和电商网站提供支持,处理数十亿次用户交互,生成个性化推荐。图像压缩则广泛应用于视频流媒体和医学影像等领域,在不牺牲质量的情况下缩小文件体积,可节省带宽和存储成本。这款芯片能以极低能耗处理这些任务,显示出重塑相关服务运行方式的潜力。

这让模拟计算向前迈进了一步。

除消费应用外,这款芯片还展示了在无线通信测试中的能力,能够检测大规模多输入多输出系统中的信号。这项技术对未来6G网络至关重要,届时基站必须实时处理庞大的天线阵列。在这些通信任务中,该设备的性能与数字处理器相当,能耗却约低100倍,表明它适用于电池续航或散热能力限制传统硬件的低功耗场景。

未来的6G无线网络要求基站同时管理数百个天线单元,实时处理海量信号数据,以维持与移动设备的连接。这类系统的计算需求超出当前数字信号处理器的能力,尤其是在远端蜂窝基站的延迟限制和功耗预算方面。这款模拟芯片能够以极低能耗检测无线通信信号,且性能与数字处理器相当,因此尤其适合电信应用。

广告

考虑到现代AI基础设施的规模,能耗节省的意义尤为重大。训练大型语言模型需要数千张高端显卡连续处理数周,耗电量达数兆瓦时。在维持或提升处理速度的同时,将能耗降低两个数量级,可大幅削减运营成本和环境影响,回应人们对人工智能开发碳足迹日益增长的担忧。

全球半导体产业背景

这项突破正值全球科技格局的关键时刻:出口限制使中国难以获得先进英伟达GPU及其他高性能数字处理器。尽管这款芯片无法立即取代通用图形处理器,但它为主导AI训练和推理工作负载的特定计算任务提供了另一种专用方案。行业分析人士认为,这可能重塑AI硬件格局,为构成神经网络运算核心的矩阵计算提供高能效选择。

将其与英伟达H100进行比较,更能凸显其潜在影响。H100是用于训练ChatGPT等大型语言模型的显卡。理论预测显示,在特定矩阵运算中,这款芯片的吞吐量可达到这些数字处理器的1000倍,能效提升100倍。即使以实际验证结果来看,速度快12倍、能效高200倍,也远超目前主导全球数据中心的技术。

这款芯片采用商业代工厂的制造能力生产,理论上无需特殊材料或革命性的新制造设施就能扩大产能。这种务实做法使这项研究有别于那些只能在理想实验室环境中存在的成果。芯片采用标准半导体制造技术生产,这意味着如果市场需求出现,生产就能利用现有供应链扩大,而不必投入数十亿美元建设基础设施。

广告

伦敦国王学院研究人员詹姆斯·米伦介绍了矩阵计算在AI训练中的重要性。他指出,数字计算机是能够计算任何内容的通用机器,但不一定能高效或快速地完成所有计算。针对特定任务设计的模拟计算机能在相应应用中实现惊人的速度和能效,有望降低AI应用日益普及所带来的巨大能耗。

技术局限与未来发展

尽管基准测试结果令人瞩目,研究人员也承认这项技术存在明显局限。孙中提醒,实际应用中的性能提升可能低于理论最高值。这款芯片专门用于矩阵计算,因此只能加速AI训练中涉及这类特定数学运算的部分。如果矩阵计算占某项工作负载的主要部分,提速效果就很显著;但对于需要多种运算的通用计算任务,收益仍然有限。

这表明,未来更可能采用混合架构,而不是用纯模拟处理器取代数字处理器。未来的图形处理器可能会加入模拟电路,用于处理AI训练算法中的特定部分,尤其是二阶优化方法和线性代数运算,同时保留数字核心来执行通用计算。这种整合距离商业化产品仍有数年时间,但这项研究为相关发展提供了基础技术。

边缘计算是另一个前景广阔的应用领域。自动驾驶汽车、工业机器人和增强现实头显需要强大的处理能力,但受电池和热量限制。当前的解决方案依赖将数据传输到云端服务器处理,因而产生延迟并依赖网络连接。能够在本地运行复杂AI推理、又不必承担数字处理器能耗代价的模拟芯片,可让这些设备实现更高程度的自主运行,并显著延长电池续航时间。

可扩展性也是一项挑战。数字处理器可以将任意规模的问题拆分成较小部分并逐步处理;模拟系统要解决更大的矩阵,则需要更大的物理电路。要制造能够处理现代大型语言模型中百万乘百万变量问题的芯片,还需要显著的工程技术进步。尽管如此,在能耗约束至关重要的边缘计算应用中,即使规模较小的模拟芯片,也可能让复杂AI直接在设备上运行,而不再依赖云端连接。

广告

研究团队表示,下一步目标是制造更大、完全集成的芯片,以更快速度处理更复杂的问题。如果进展顺利,相关成果或将加速6G通信发展、提高AI模型训练效率,并降低数据中心对环境的影响。目前,数据中心消耗的电力在全球发电量中所占比例不断上升。随着数字计算逐渐逼近内存与处理分离所设定的物理极限,模拟方案为持续提升性能、又不让能耗同比例上升提供了一条路径。

广告

要点

  • 北京大学研究人员研发出一款采用电阻式随机存取存储器的模拟AI芯片,在实际推荐和图像处理任务中,速度达到先进数字处理器的12倍,能效提高200倍。
  • 该设备解决了困扰模拟计算一个世纪的精度难题。其双电路架构可优化近似计算结果,达到与32位浮点系统相当的误差水平。
  • 数字处理器使用二进制的0和1;这款芯片则操纵连续电信号,直接在存储器中进行矩阵计算,消除了传统计算中消耗大部分能量的数据传输瓶颈。
  • 该技术采用商业半导体工艺制造,具备量产潜力,但目前的芯片所能处理的矩阵规模小于训练最大型AI模型所需的规模。
  • 应用包括个性化推荐系统、图像压缩、6G无线信号处理,以及结合模拟计算高能效与数字计算灵活性的混合计算架构。
  • 这项突破之际,中国正面临先进英伟达GPU进口限制。该技术为特定AI工作负载提供了自主研发的替代方案,也有望降低全球数据中心的能耗。
分享本文

猜你喜欢