分享:

光学卷积神经网络加速器:通过光学实现更强大的人工智能

2021-01-05 17:05:51 中国航空报 逸文

大规模并行的唯幅度傅立叶神经网络

目前计算能力的供应远远无法满足全球对机器学习硬件的需求。最先进的电子硬件,如图形处理单元和张量处理单元加速器,有助于缓解这一问题,但受到了串行数据处理的内在挑战,因为串行数据处理需要迭代数据处理,还会遇到布线和电路限制所造成的延迟。电子硬件的光学替代品可以通过非迭代的方式简化信息处理,帮助加快机器学习进程。然而,基于光子的机器学习通常受制于光子集成电路上可放置的元件数量,限制了互连性,而自由空间的空间光调制器则受制于较慢的编程速度。

近日,美国乔治·华盛顿大学和加州大学洛杉矶分校的研究人员与深度科技创业公司Optelligence LLC共同开发出一种光学卷积神经网络加速器,每秒能够处理拍字节(1拍字节=250字节)级的大量信息。这项创新利用了光的巨量并行性,预示着用于机器学习的光学信号处理新时代的到来,应用领域众多,包括无人驾驶汽车、5G网络、数据中心、生物医学诊断、数据安全等。

为了在这种光学机器学习系统中实现突破,研究人员用基于数字镜的技术取代了空间光调制器,从而开发出速度快百倍的系统。该处理器的非迭代时序,再加上快速的可编程性以及大规模并行化处理,使得这个光学机器学习系统的性能甚至超越顶尖的图形处理单元一个数量级,而且在最初的原型机之外还有进一步优化的空间。

不同于目前电子机器学习硬件中按顺序处理信息的范式,这款处理器采用了傅里叶光学,即频率滤波的概念,可以利用数字镜像技术将神经网络所需的卷积执行为更简单的逐元(element-wise)乘法。

乔治·华盛顿大学电气与计算机工程系副教授Volker Sorger表示:“这种大规模并行的、唯辐度的傅立叶光学处理器预示着信息处理和机器学习的新时代的到来。研究表明,训练该神经网络可以解决相位信息缺乏的问题。”

加州大学洛杉矶分校计算机工程系副主任Puneet Gupta教授表示:“光学允许在单个时间步长内处理大规模矩阵,从而实现了通过光学方式执行卷积操作的新尺度向量。正如在这里所演示的,这对于机器学习应用来说有着巨大的潜力。”

Optelligence LLC公司联合创始人Hamed Dalir表示:“该原型展示了光加速器的商业化途径,它已经为网络边缘处理、数据中心和高性能计算系统等许多应用做好了准备。”

责任编辑:实习编辑

相关新闻
关键词:
光学卷积神经网络加速器,傅里叶光学,人工智能