发现人工智能网络中易受恶意攻击的漏洞

人工智能网络比之前想象的更脆弱

人工智能工具在从自动驾驶汽车到医学图像解读等各种应用中前景广阔。 一项新研究发现,这些人工智能工具可能比之前认为的更容易受到攻击。 这些攻击可能会迫使人工智能系统做出错误的决定。

问题在于所谓的“对抗性”攻击,即有人操纵数据来迷惑人工智能系统。 例如,有人可能知道,将某种类型的贴纸放置在标牌上的特定位置可以使其对人工智能系统不可见。 黑客还可以在 X 射线系统中安装代码,从而改变图像数据,从而使人工智能系统做出不准确的诊断。

北卡罗来纳州立大学电气工程和计算机科学副教授田福瓦表示,经过训练识别停车标志的人工智能仍然可以将一个标志识别为标志。 如果人工智能存在漏洞,并且攻击者知道这一点,他们就可以利用该漏洞造成事故。

来源和详细信息:
https://scitechupdates.com/ai-networks-are-more-vulnerable-to-malicious-attacks-than-previouslythought/