首页 科技 > 正文

双8位突破使人工智能脱颖而出

很多文章的报道都是由微观而宏观,今日小编讲给大家带来的关于双8位突破使人工智能脱颖而出的资讯也不例外,希翼可以在一定的程度上开阔你们的视野!y有对双8位突破使人工智能脱颖而出这篇文章感兴趣的小伙伴可以一起来看看

本周,在国际电子设备会议(IEDM)和神经信息处理系统会议(NeurIPS)上,IBM研究人员将展示将使AI超越以往的新硬件:从边缘到边缘。我们针对数字和模拟AI芯片的新颖方法提高了速度,并在不牺牲准确性的情况下大幅降低了深度学习的能源需求。在数字方面,我们正在为AI培训建立新的行业标准奠定基础,该方法可实现八位精度的完全准确性,在当今系统上将培训时间缩短了2-4倍。在模拟方面,我们报告了一种模拟芯片的八位精度,这是迄今为止最高的精度,与以前的模拟芯片相比,精度大约提高了一倍,而能耗却比类似精度的数字架构少33倍。

双8位突破使人工智能脱颖而出

进入后GPU时代

自2009年首次采纳GPU来加速深度学习以来,软件和AI硬件的创新很大程度上推动了AI的计算性能每年提高2.5倍。但是,我们正在达到GPU和软件可以做什么的极限。为了解决我们最棘手的问题,硬件需要扩大规模。下一代AI应用程序将需要更快的响应时间,更大的AI工作负载以及来自众多流的多模式数据。为了释放AI的全部潜能,我们正在考虑AI重新设计硬件:从加速器到用于AI工作负载的专用硬件(例如我们的新芯片),最终是用于AI的量子计算。使用新的硬件解决方案扩展AI是IBM Research所做的更大努力的一部分,它从通常用于解决特定的,定义明确的任务的狭窄AI过渡到跨学科的广泛AI,以帮助人类解决最紧迫的问题。

精度降低的数字AI加速器

IBM Research在一篇具有里程碑意义的论文中推出了降低精度的AI模型训练和推理方法,该论文描述了一种新的数据流方法,该方法适用于常规CMOS技术,可通过显着降低数据和计算的位精度来改造硬件平台。首次展示了以16位精度训练的模型,与以32位精度训练的模型相比,其精度没有任何损失。在随后的几年中,降低精度的方法很快被采纳为行业标准,如今16位训练和8位推理已变得司空见惯,并激起了初创公司和风险投资的热潮,以减少基于精度的数字AI芯片。

双8位突破使人工智能脱颖而出双8位突破使人工智能脱颖而出

我们通过一种称为投影PCM(Proj-PCM)的新方法提高了PCM存储的砝码的精度和稳定性,其中,我们在与相变段平行的位置插入了一个非绝缘的投影段。在写入过程中,投影段对设备的操作影响最小。然而,在读取期间,编程状态的电导值主要由投影段确定,这明显不受电导变化的影响。这使得Proj-PCM设备可以实现比以前的PCM设备更高的精度。

我们的研究团队提高了精度,这表明内存计算可以在低功耗环境(例如IoT和边缘应用程序)中实现高性能深度学习。与我们的数字加速器一样,我们的模拟芯片旨在针对视觉,语音和文本数据集的AI 训练和推理进行扩展,并扩展到新兴的广泛AI。我们将整周在NeurIPS上演示以前公布的PCM芯片,并使用它通过云实时对手写数字进行分类。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。