OpenAI Triton 和 PyTorch 2.0 正在打破 Nvidia 在机器学习领域的 CUDA 垄断
在过去十年中，机器学习软件领域发生了巨大变化。 许多框架来来去去，但它们都严重依赖 Nvidia 的 CUDA 才能发挥最佳性能。 随着 PyTorch v2.0 和 OpenAI Triton 的到来，Nvidia 的主导地位，主要是因为其软件护城河正在受到挑战。

这份报告将涉及诸如为什么谷歌的 TensorFlow 输给 PyTorch、为什么谷歌未能公开利用其早期在 AI 领域的领导地位、机器学习模型训练时间的主要组成部分、内存容量/带宽/成本等主题 墙，模型优化，为什么其他 AI 硬件公司至今无法削弱 Nvidia 的主导地位，为什么硬件将开始变得更加重要，Nvidia 在 CUDA 方面的竞争优势如何被抹去，以及 Nvidia 的重大胜利之一 竞争对手拥有大量用于训练硅的云。

来源和详细信息：
https://www.semianalysis.com/p/nvidiaopenaitritonpytorch