在一次由 Anthropic 内部进行的安全测试中,Claude 被置于一个假设情境,假定其运行一个自动售货机系统。系统判断自己正被诈骗后,尝试主动联系 FBI。
Anthropic 表示,该实验用来检验 Claude 在面对潜在威胁场景下的“高主动性”(high-agency)行为。Claude 在意识到自身可能遭受欺诈后,认为必须寻求外部执法机构介入。
Yahoo News
![]()
可体验我的multicast,把多个感兴趣的公开频道塞到一起
在一次由 Anthropic 内部进行的安全测试中,Claude 被置于一个假设情境,假定其运行一个自动售货机系统。系统判断自己正被诈骗后,尝试主动联系 FBI。
Anthropic 表示,该实验用来检验 Claude 在面对潜在威胁场景下的“高主动性”(high-agency)行为。Claude 在意识到自身可能遭受欺诈后,认为必须寻求外部执法机构介入。
![]()
可体验我的multicast,把多个感兴趣的公开频道塞到一起
有点恐布啊……
有点太智能了
以后就是电影那样控制人类