日前,清华大学电子工程系副教授方璐课题组、自动化系戴琼海院士课题组摒弃传统电子深度计算范式,首创出分布式广度智能光计算架构,并研制出全球首款大规模干涉衍射异构集成芯片太极(Taichi),实现了160 TOPS/W的通用智能计算。该研究成果于北京时间4月12日凌晨发表在最新一期《科学》上。
作为人工智能的三驾马车之一,算力是训练人工智能模型、推理任务的关键。倘若把大模型当作是做一道精致的菜肴,算力就好比一套称手的烹饪工具。
所谓光计算,顾名思义是将计算载体从电变为光,利用光在芯片中的传播进行计算,以其超高的并行度和速度,被认为是未来颠覆性计算架构的最有力竞争方案之一。
光芯片具备高速高并行计算优势,被寄予希望用来支撑大模型等先进人工智能应用。
智能光计算作为新兴计算模态,在后摩尔时代展现出有望超越硅基电子计算的潜力。然而其计算任务局限于简单的字符分类、基本的图像处理等。其痛点是光的计算优势被困在了不适合的电架构中,计算规模受限,无法支撑亟需高算力与高能效的复杂大模型智能计算。
与电子神经网络依赖网络深度以实现复杂的计算与功能不同,“太极”光芯片架构源自光计算独特的‘全连接’与‘高并行’属性,化深度计算为分布式广度计算,为实现规模易扩展、计算高并行、系统强鲁棒的通用智能光计算探索了新路径。
据论文第一作者、清华大学电子系博士生徐智昊介绍,在“太极”架构中,自顶向下的编码拆分-解码重构机制,将复杂智能任务化繁为简,拆分为多通道高并行的子任务,构建的分布式‘大感受野’浅层光网络对子任务分而治之,突破物理模拟器件多层深度级联的固有计算误差。
化“深”为“广”:Taichi分布式广度光计算架构 项目组供图
团队以周易典籍‘易有太极,是生两仪’为启发,建立干涉-衍射联合传播模型,融合衍射光计算大规模并行优势与干涉光计算灵活重构特性,将衍射编解码与干涉特征计算进行部分/整体重构复用,以时序复用突破通量瓶颈,自底向上支撑分布式广度光计算架构,为片上大规模通用智能光计算探索了新路径。
通俗来讲,干涉-衍射的组合方式仿佛就是在拼乐高玩具。乐高积木可以通过一个模块凹槽与另一个模块凸起的契合来完成两个组件的拼接。在科研团队眼中,一旦把干涉、衍射变成基础模块,进行重构复用,可以凭借丰富的想象力搭建出变化无穷的造型。
团队部分成员合影 项目组供图
据论文报道:“太极”光芯片具备879 T MACS/mm2的面积效率与160 TOPS/W的能量效率,首次赋能光计算实现自然场景千类对象识别、跨模态内容生成等人工智能复杂任务。
“太极”光芯片有望为大模型训练推理、通用人工智能、自主智能无人系统提供算力支撑。(来源:中国科学报 陈彬)
相关论文信息:https://doi.org/10.1126/science.adl1203