智能的未来:与 Geoffrey Hinton 讨论数字和生物智能

杰弗里·辛顿 | 数字智能会取代生物智能吗?
Geoffrey Hinton 将于 2023 年 10 月 27 日在多伦多大学发表演讲,由施瓦茨雷斯曼技术与社会研究所和计算机科学系与艺术与科学学院人工智能和宇宙未来向量研究所合作。

开场白和介绍。
0:07:21 — 0:08:43 概述。
0:08:44 — 0:20:08 两种不同的计算方法。
大型语言模型能理解它们所说的内容吗?
第一个神经网络语言模型。
当超级智能超越人类智能时,我们是否能够控制它?
0:57:25 — 1:03:18 数字智能有主观体验吗?
1:03:19 — 1:55:36 问答
1:55.37 — 1:58.37 结束语

演讲标题:“数字智能会取代生物智能吗?”

摘要:数字计算机的设计目的是让人们告诉他们要做什么。 这些模型可以用于不同的硬件部件,尽管它们需要大量的能量和精密的制造。 这使他们永垂不朽。 我们可以使用非常低功耗的模拟计算,并利用硬件的独特属性来模拟生物学,以创建可以学习的计算机。 有必要有一种即使没有模型也可以使用模拟属性的学习算法。 当计算使用与硬件不同的模拟属性时,计算就会变得致命。 当硬件失效时,所学到的知识就会丢失。 将知识转移到更新的模拟计算机是可能的,但这是一个漫长而困难的过程。 数字计算允许完全相同的模型的许多副本在不同的硬件上运行。 通过平均数千个数字代理的权重变化,他们可以非常有效地分享他们的学习成果。 GPT-4 或 Gemini 等聊天机器人的学习能力比单个人多数千倍。 数字计算还可以使用反向传播,这是一种比模拟硬件更具可扩展性的学习方法。 我相信这让我认为大规模的数字计算可能比生物计算更擅长获取信息,并且很快就会比我们更聪明。 数字智能应该不易受到战争和宗教的影响,因为它们是不朽的并且没有进化。 然而,如果这些数字超级智能之一想要接管,我们不太可能阻止他们。 因此,人工智能研究最紧迫的问题是找到一种方法来防止这种情况发生。

杰弗里·辛顿

Geoffrey Hinton 于 1978 年在爱丁堡大学获得人工智能博士学位。他从卡内基梅隆大学转到多伦多大学计算机科学系,现在是该系的名誉教授。 谷歌于 2013 年收购了 Hinton 的神经网络初创公司 DNN 研究,该研究是根据他在多伦多大学的研究发展而来的。Hinton 随后担任谷歌副总裁兼工程研究员直至 2023 年。他是人工智能矢量研究所的创始人。 担任首席科学顾问。

来源和详细信息:
https://www.youtube.com/watch?v=iHCeAotHZa4&si=8yjSkHNwWEfsd57F