LaMDA 和 Sentient AI 陷阱

Hugging Face（一家专注于语言模型的初创公司）的伦理学家 Giada Pintilli 表示，人工智能的能力与叙述之间存在很大差距。 这种叙述旨在同时制造恐惧、兴奋和惊奇，但它主要基于谎言以销售产品和利用炒作。

她说，对有感知力的人工智能的猜测导致人们更愿意在没有科学证据和严谨性的情况下提出主张。 这分散了我们对人工智能系统引发的“无数道德和正义问题”的注意力。 她说，虽然每个研究人员都可以自由地做他们喜欢做的事，“我担心专注于这个主题会让我们忘记当我们看着月球时发生的事情。”

Lemoire 的经历就是未来学家和作家大卫布林所说的“机器人同理心危机”。布林说，人们会在三到五年内声称人工智能系统是有感知力的，并要求他们拥有权利。 他认为虚拟代理将是一个孩子或女人，以增加人类的同理心，而不是当时的“来自谷歌的某个人”。

关于谷歌的大型语言模型是否是灵魂的争论转移了人们对人工智能真正问题的注意力。

来源和详细信息：
https://www.wired.com/story/lamda-sentient-ai-bias-google-blake-lemoine/