根据《麻省理工科技评论》的报导,微软(Microsoft)近期分享了一套技术蓝图,为网路内容建立一套可靠的真伪证明标准。
微软的AI安全研究团队针对现有的数位窜改记录方法进行了全面评估,特别测试了这些手段在面对「互动式深伪」与「高拟真模型」时的防御表现。研究指出,随着AI生成技术普及,单一的防护机制已不足以应对当前的伪造手段,因此建议AI公司与社群媒体平台应共同采纳更严谨的技术规范。
为了定义数位内容的「黄金标准」,微软将其类比为监定林布兰(Rembrandt)名画的过程。这套标准包含三大核心:首先是详列来源与转手纪录的「数位溯源(Provenance)」;其次是肉眼不可见但机器可读的「隐形浮水印(Watermark)」;最後则是针对内容特徵(如像素或笔触)产生的数学签名,即「数位指纹(Fingerprint)」。
研究团队针对这三种技术交叉组合出60种不同的测试方案,并模拟多种失效场景,包含元数据(Metadata)被刻意删除、内容遭到轻微修改或恶意窜改等极端情况。这项压力测试的目的,是为了找出在不同环境下依然能保持稳定的认证逻辑,确保验证结果具备高度的叁考价值。
最终,微软绘制出了一份技术地图,明确标示哪些组合能产生令平台信任的结果,而哪些组合则因过於脆弱可能导致更多误导。微软强调,建立统一且可靠的认证体系,是重建数位信任、对抗AI深伪威胁的关键一步。