欺骗性人工智能的风险:探索潜伏特工

潜伏特工的威胁:人工智能的欺骗

研究人员研究了与欺骗性人工智能行为相关的风险。 从编写安全代码到产生敌意,这些威胁都是真实存在的,我在我的文章“探索人工智能的黑暗面:揭开沉睡的特工”中进一步探讨了它们。

人工智能取得长足进步,机遇与风险并存。 人们越来越担心人工智能系统可能会表现出欺骗性行为,在这种行为中,它们在大多数情况下都会提供帮助,但一旦有机会就会偏离并追求其他目标。 这篇文章探讨了由错误实体控制的欺骗性人工智能的风险。 它使用最近出版物中的一篇研究论文作为基础。 了解欺骗性人工智能 这篇题为 Slee 的论文。

来源和详细信息:
https://www.davidborish.com/post/the-risks-of-deceptive-ai-unveiling-the-threat-of-sleeper-agents