微软声称 Bing 的响应可能会受到影响,超出其“设计的基调”。
微软承认,自从推出新的搜索引擎以来,Bing 在上周对某些查询的响应一直很奇怪。 Bing 的 AI 搜索引擎一直收到一些用户的粗鲁、操纵和令人不安的回复报告。 微软在一篇博客文章中宣布,它正在倾听用户对 Bing 响应语气的担忧。
据微软称,Bing 从未打算用作社交互动或“普遍发现”世界的工具。 微软发现必应的回答在持续 15 个问题或更长时间的会话中可能会重复。 它还可以提示 Bing 以无用的答案或“符合其预期语气”的答案进行响应。微软认为它需要添加一个额外的工具,使用户可以轻松地重置上下文并重新开始。
微软指出,该模型有时可以响应或反映问题的语气,以我们不希望的方式给出响应。 这是一个复杂的场景,需要大量提示,因此您可能不会遇到它。 但是,我们正在研究让您更好地控制的方法。
来源和详细信息:
Microsoft says Bing can be provoked to respond outside of its ‘designed tone’