通过基于磁隧道结的内存计算加速贝叶斯神经网络

使用基于磁隧道结的概率内存计算的贝叶斯神经网络

贝叶斯神经网络 (BNN) 将深度神经网络的泛化性和预测准确性与不确定性的量化相结合，在需要高可靠性或安全性的应用中非常有价值。 由于其概率性质，BNN 对数字硬件的计算要求更高。 与 DNN 相比，它们也不太适合模拟内存计算。 这项工作使用自旋电子位单元来实现具有高斯分布的 BNN 值。 位单元结合了两个 MTJ 设备：一个对训练的标准差进行编码的域壁多位 MTJ 设备，以及一个对训练的标准差进行编码的可调谐随机 MTJ 设备。 这两种设备可以组合在一个阵列中，以实现高效的概率矩阵向量多重性。 微磁学模拟用于构建自旋电子 BNN 加速模型系统。 这表明我们的设计可以为分类和回归问题生成准确且经过校准的不确定性估计，并且能够与软件 BNN 性能相匹配。 这一结果为自旋电子存储计算系统铺平了道路，该系统可以以适度的预算实现可信神经网络。

深度神经网络 (DNN) 强大的泛化能力使其在过去十年中在许多应用中得到广泛普及。 然而，人们希望拥有能够准确量化预测置信度的算法，特别是在错误预测成本很高的应用中（Jiang 等人，2018）。 贝叶斯神经网络 (BNN) 可以推广为 DNN，同时还提供严格的不确定性估计，将其参数编码为通过贝叶斯定理学习的概率分布，以便预测对经过训练的分布进行采样。 使用概率权重也是减少过度拟合的有效方法。 （Jospin 等人，2022）。 由于其概率性质，BNN 速度较慢，并且需要更多功率才能在传统硬件上运行。

来源和详细信息：
https://www.frontiersin.org/articles/10.3389/fnano.2022.1021943/full