Anthropic文本水印催生各类去水印工具
IT时代网8月19日消息,Anthropic希望让AI生成的文本更容易被识别,但一些软件开发者已经开始开发专门消除这些标记的工具。这家AI公司上周表示,部分Claude模型生成的文本会带有一种“不可感知的水印”。由于水印通过Claude的选词方式形成统计模式,即使用户复制粘贴文本,标记也会保留。
有人认为,AI水印能提高内容透明度,是值得欢迎的举措。不过这一做法也引发行业从业者的担忧:即使用户只是用Claude对文本做校对、翻译或总结,相关标记也可能跟随最终内容一起传播。此前已有用户表示因此取消了Claude订阅,这种反弹也促使一些人开始寻找绕过水印的方法。在美国,Google Trends上“AI watermark remover”的搜索热度环比上涨了60%。
来自巴黎的科技创业者、AI电商工具Memo创始人Guillaume Meyer,在Anthropic宣布计划几天后就发布了一个名为“Watermarks Remover”的开源项目。他透露,第一版工具大约花了5个小时开发完成,目前该项目在GitHub上已获得超过1.4万个Star。Meyer认为,问题在于水印技术“把作者身份当成了一件非黑即白的事情”。
常驻东京的开发者Ansh Aneja表示,Anthropic宣布推出该功能当天,他就开发了一款专门针对Claude的水印移除工具,之后又发布了名为MarkScrub的本地开源版本。面向创业者提供AI教育服务的Sabrina Ramonov也开发了一款免费的浏览器端“Watermark Remover”。这些项目仍处于早期阶段,实际效果尚难独立评估。
从法律角度看,AI水印移除工具目前处于灰色地带。欧盟要求AI公司为生成内容添加持久性标记,但并未明确规定第三方能否主动移除。马斯特里赫特大学助理教授Konrad Kollnig表示,无论是欧盟《人工智能法案》还是Anthropic的服务条款,目前似乎都没有禁止人们开发或分享这类工具。随着Anthropic计划在下一代模型发布时同步推出文本检测API,相关问题可能更加突出。

注:本文综合自IT之家等,文中包含AI辅助创作的内容。