IT时代网 8 月 18 日报道，据央视网消息，AI 换脸诈骗检测与预警技术正在进行测试。工业和信息化部反诈工作专班专家透露，将联合行业内手机终端企业推出 AI 换脸诈骗风险提醒功能，且该功能仅在手机端本地运行。
专家李坤指出：“我们正携手手机终端企业，即将推出的这一功能仅于手机端本地运作，能有力保障用户数据安全，防止泄露。在获取用户授权后，可为其提供 AI 换脸诈骗的风险预警。”
当有采用 AI 换脸技术的人员与记者进行视频通话时，测试手机终端给出 “对方疑似假冒身份” 的提示。点击检测按钮，经过图像扫描，系统显示 “AI 换脸合成概率 93%”。
需知，AI 换脸主要运用深度合成技术。《互联网信息服务深度合成管理规定》明确提出算法备案、安全评估等手段，并要求深度合成服务提供者为深度合成内容添加显性或隐性水印。
中国信通院人工智能所安全与元宇宙部的专家陈文弢表示：“给生成合成的内容添加水印，本质上一方面是向公众提示此内容由 AI 生成或合成，另一方面也是为了追溯其来源。”
分析：
此则消息表明工信部将推出的这一功能意义重大。它能够在手机端本地识别 AI 换脸诈骗风险，为用户提供及时的预警。
意义：
- 增强公众防范意识：能让用户在接收到可疑视频通话等信息时提高警惕，降低被骗几率。
- 比如，以往用户可能因难以辨别真假而轻易相信对方，有了该功能的提醒，就会多一份谨慎。
- 保障数据安全：仅在本地运行避免了用户数据外传，消除了用户对数据泄露的担忧。
- 假设数据被传到云端，就可能面临被黑客攻击或被非法利用的风险，本地运行则可避免此类情况。
- 利于打击犯罪：通过添加水印追溯内容来源，能为打击 AI 换脸诈骗犯罪提供有力帮助。
- 一旦发生诈骗案件，可根据水印快速锁定犯罪嫌疑人使用的技术和来源渠道。
可能面临的挑战：
- 技术优化难题：要确保风险提醒功能精准识别，减少误判和漏判，技术优化难度较大。
- 例如，复杂的环境因素或新型换脸技术可能干扰判断的准确性。
- 平衡用户授权与隐私保护：在获取必要授权时，需避免过度收集用户信息，以免引发用户不满。
- 若授权过程过于繁琐或涉及过多敏感信息，可能导致用户拒绝使用。
- 持续跟进技术更新：AI 换脸技术不断发展，风险提醒功能也需持续升级以适应新变化。
- 新的换脸手段出现时，如果不能及时更新功能，防范效果就会大打折扣。
展望未来：
随着该功能的推广和改进，有望营造更安全的网络环境，推动 AI 技术合规、有序地发展。同时，可能激发更多创新手段来应对不断变化的网络诈骗形势。
