Lightmatter 硅光子学:减少 AI 和 HPC 工作负载中的带宽瓶颈

Lightmatter 通过硅光子学突破带宽瓶颈

当今人工智能和许多 HPC 工作负载的最大瓶颈是带宽。 网络带宽、套接字级别带宽、内存和计算带宽。 一旦您的工作负载扩展到单个节点或机架,带宽就成为限制因素。

芯片制造商已经在多个层面上解决了这个问题。 他们在芯片中添加了更多具有高带宽的内存,提高了互连速度,并使用小芯片来超越标线限制。 英特尔的“Ponte Vecchio Max Series”GPU 和AMD 新发布的“Antares Instinct MI300X”GPU 就是两个典型的例子。 小芯片之间的驱动数据可能会导致 I/O 瓶颈,但芯片本身无法做得更大。

即使我们不需要大于光刻机掩模版限制的插座,我们也需要增加插座的容量。 这对于现代人工智能和高性能计算工作负载是必要的。 在过去几年中,出现了向更密集的机架、盒子和集群发展的趋势。 云提供商、超大规模提供商和 GPU 比特仓部署了具有数千个加速器的集群,以满足人工智能应用的需求。 Lightmatter 是一家硅光子公司,估值超过 10 亿美元。 它相信自己已经垄断了市场。

来源和详细信息:
https://www.nextplatform.com/2024/01/04/how-lightmatter-breaks-bandwidth-bottlenecks-with-silicon-photonics/