研究称AI可篡改人类记忆植入虚假事件

IT时代网10月19日消息，一项研究发现，AI 可以篡改人类记忆，向受试者植入从未发生过的虚假事件。麻省理工学院媒体实验室教授帕蒂·梅斯（Pattie Maes）和同事准备了 24 张普通照片，内容涵盖婚礼、城市街道、赛跑场景，并将这些照片展示给 200 名受试者。

短暂休息后，一部分人再次看到原图，另一部分人看到经过 AI 修改的版本，人物面部表情被改动、画面中新增军人形象，或是添加气候变化相关景象。随后研究人员开展了记忆测试。

结果显示，观看 AI 篡改图片的受试者产生错误记忆的概率大幅上升，而且他们对些虚假记忆的自信程度反而更高。梅斯表示，这比单纯记错更值得警惕。

梅斯另一组研究提供了另一条佐证。去年发布、目前正在接受同行评审的一项实验中，54 名受试者被要求撰写 SAT 风格作文，主题例如幸福的意义。其中一组不使用任何网络工具，第二组可以使用谷歌搜索但不能调用 AI 生成答案，第三组可以使用 ChatGPT。

写作过程中，头皮电极记录的大脑电活动差异十分明显：独立写作的受试者，大脑不同区域之间的神经连接最强、分布最广，使用谷歌的受试者居中，使用 ChatGPT 的受试者大脑连接最弱。后续让受试者复述自己刚刚写下的作文，依赖 ChatGPT 的人很难回忆起自己写过的文字。

宾夕法尼亚大学沃顿商学院市场营销副教授吉迪恩·纳夫（Gideon Nave）与伦敦国王学院助理教授史蒂文·肖（Steven Shaw）研究 AI 对人类认知的影响。纳夫并不太担心超级 AI 夺取人类控制权，而是一种更隐蔽的风险：人类会慢慢不再锻炼那些机器可以代劳的能力。

肖提到，习惯借助 AI 辅助工作的人一旦失去这套辅助工具，工作表现会下滑。研究人员称之为“技能退化”。不过这也并不代表使用 ChatGPT 等工具一定会导致能力下降，现有相关研究尚处于早期阶段，人类长久以来也在借助算盘、钟表、词典、计算器等工具外包记忆与思考。

在另一项实验中，乔治城大学海量数据研究所助理研究员玛蒂亚·西姆（Mattea Sim）招募 331 人观看一段汽车撞倒行人的简短动画视频。一两天后，受试者阅读一份 AI 生成的事故摘要，其中一部分拿到的摘要准确描述视频里的交通标识，另一部分拿到的摘要由 AI 自信给出了错误标识信息。

拿到准确摘要的受试者中，近 84% 能正确记住标识；拿到误导性摘要的受试者，正确率仅约 45%。西姆的研究表明，人工监督或许并不是解决这个问题的有效办法，因为 AI 会改变人们用来排查 AI 错误的判断与记忆。

注：本文配图由AI生成。本文综合自IT之家等，文中包含AI辅助创作的内容。

编辑：林一舟