Claude识别枪击威胁后上报：佛州女子被捕

IT时代网10月5日消息，美国佛罗里达州李县一名30岁女子因涉嫌在与Anthropic旗下聊天机器人Claude的对话中写下针对当地警长办公室的暴力威胁而被捕。

据当地警方通报，邦尼塔斯普林斯居民卡莉·米歇尔·赫勒于9月26日在对话中称要对李县警长办公室实施枪击，相关内容随即触发Anthropic的安全风控机制，并被Claude上报给人工审核及执法部门。警长卡迈恩·马尔切诺透露，赫勒后来称她把AI当作日记使用。

调查人员称，Anthropic通过安全机制监测关键词和潜在威胁内容，相关信息视严重程度被升级至人工审核，随后由人工团队确认后联系当地执法部门。接报后，当地警员前往其住所并将该女子无冲突拘留。赫勒告诉调查人员，目前她面临一项书面暴力威胁指控，但尚未被法院定罪。

佛罗里达州相关法规规定，任何人通过可以被他人查看的书面或电子记录，威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为，均可能构成二级重罪，相关规定适用于电子记录。至于本案中的Claude对话是否满足具体法律构成，仍需由法院裁定。马尔切诺表示，AI可能改变了威胁的产生方式，但当有人利用AI实施或协助实施威胁时，警方必须认真对待。

该案件也引发了关于聊天机器人隐私边界的讨论。Anthropic公开的政府信息请求政策显示，公司通常只在收到有效法律程序后才向政府披露用户信息，但若认为紧急情况可能导致迫在眉睫的身体伤害或死亡，且及时提供相关信息可能避免危险，则存在紧急披露例外。将Claude作为私人日记使用，并不意味着相关内容必然只会由用户本人看到。

注：本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟