探索人工智能的局限性:研究乔姆斯基层次结构中的神经网络泛化

DeepMind 关于人工智能的最新研究解释了神经网络如何在乔姆斯基层次结构中泛化和崛起

在论文《Neural Networks & the Chomsky Hierarchy》中,DeepMind 的一组研究人员对神经网络架构进行了泛化研究。 研究小组调查了计算理论和乔姆斯基层次结构的见解是否可以预测神经网络泛化的实际局限性。

我们知道,强大的机器学习模型需要对分布之外的输入进行准确泛化。 目前尚不清楚神经网络如何或为何泛化算法序列预测任务。

该研究小组对 2000 多个模型进行了全面的泛化研究,这些模型使用尖端的神经网络架构和记忆增强神经网络分布在 16 个任务中。 这是在包含乔姆斯基层次结构所有级别的电池序列预测任务上完成的。

来源和详细信息:
https://www.marktechpost.com/2022/07/15/deepminds-latest-study-on-artificial-intelligence-explains-how-neural-network-generalize-and-rise-in-the-chomsky-hierarchy/