美国西部时间8月29日,在斯坦福大学举行的全球芯片行业年度盛会Hot Chips大会上,全球光电混合计算领军企业曦智科技进行了全新光电计算产品Hummingbird的首次公开演示。这是继美国西部时间8月8日发布Photowave之后,曦智科技一个月之内再次推出新产品。至此,曦智科技从光子矩阵计算(oMAC)、片上光网络(oNOC)、片间光网络(oNET)三大核心技术出发,打造的各系列产品均已推出首款硬件,完成了光子计算和光子网络两条产品线的最后一块“拼图”。
Hummingbird是首个用于特定领域人工智能(AI)工作负载的片上光网络(oNOC)处理器,采用先进封装技术,将光芯片和电芯片进行垂直堆叠,集成为一个系统级封装(System in Package,SiP)。
Hummingbird计算卡
oNOC技术旨在代替电芯片内部或者芯粒之间的电互连网络,把电信号转成光信号,通过光芯片中的光波导网络进行数据通信,提高整体计算效率。通过这种方式可实现算力和内存扩展,提供更低的延时,更大的互连带宽,以及更多的拓扑结构。
曦智科技创始人、首席执行官沈亦晨博士表示:“光子技术是解决计算规模扩展问题的有效方法。随着AI热潮推动了算力需求的指数级增长,传统的解决方案已经很难跟上,业界可以通过将光子技术纳入下一代产品中来解决扩展问题,Hummingbird验证了这一点。”
知名半导体行业评论人、SemiAnalysis首席分析师Dylan Patel则评论说:“曦智科技正在利用其专有的光子技术打破内存壁垒,这有可能改变半导体行业。”
本次发布的Hummingbird,是继2021年年底发布的PACE(Photonic Arithmetic Computing Engine)之后,曦智科技光子计算产品线的第二款产品,也是该产品线首款应用oNOC技术的硬件。
曦智科技光电混合计算新范式
在Hot Chips大会上,曦智科技工程副总裁Maurice(Mo) Steinman详细介绍了Hummingbird规格参数,以及曦智科技光电混合计算新范式在满足数据中心对更高算力、更低延时、更低功耗的需求上体现出的优势。
Hummingbird通过硅光芯片上的U型光波导传播信号,可实现电芯片上64个核之间的all-to-all全通道广播。这种方式让Hummingbird相比于传统数字互连解决方案显著降低了延迟和功耗,充分体现了光子技术在提升计算表现上的优越性。
与片上电网络不同,曦智科技的oNOC技术通过计算节点间全互连拓扑结构,扩展了计算集群规模和配置灵活度。
在oNOC架构下,芯粒间距离几乎不会影响功耗和延迟。因此,该技术非常适合开发新的、更可靠的拓扑结构,并且不再局限于相邻两个芯片之间的传输。Hummingbird使得在单个电芯片或芯粒系统中更高效地利用算力成为可能。借助oNOC,将工作负载映射到不同硬件变得更加容易,为计算系统设计选择合适的拓扑结构也变得更加灵活。
值得一提的是,Hummingbird还内置了曦智科技自主研发的小型化单/多波长激光光源Moonstone,可实现多至8个通道波长的高功率光输出,这是曦智科技在推动光电混合计算产品化和商业化过程中的又一技术突破。
Hummingbird的电芯片和光芯片被共同封装并集成到一个PCIe板卡上,适用于通用的服务器。结合曦智科技的软件开发工具包(SDK),机器学习和人工智能工作负载可以充分利用oNOC的优势实现性能优化。此外,oNOC和Hummingbird IP还可以根据客户应用场景进行定制。
Hummingbird可集成在标准PCIe板卡上,具有良好的通用性
Hummingbird的后续版本将采用光罩拼接技术(reticle-stitching)以支持芯粒架构,从而实现更好的可扩展性,在提高能效比的基础上进一步突破算力瓶颈的制约。
随着Photowave和Hummingbird两款光电混合产品的发布,曦智科技产品市场化进程取得了阶段性进展。曦智科技接下来将持续推动产品迭代进程,拓宽产品应用领域,为客户提供一系列算力跃迁解决方案。