微软人工智能公益项目最新研究显示,在28.7万次图像评估中,人类辨别AI生成图像与真实图像的成功率仅为62%,面对自然景观和城市街景等非人物图像时,识别准确率更是下降至不足六成。实验采用“真实或虚假”问答形式,图像样本贴近日常浏览场景,揭示了AI生成内容日益增强的欺骗性。
研究指出,尽管人类在识别人像方面相对擅长,这可能与其对面部特征的高度敏感有关,但对于其他类型的图像,辨别能力明显下降。此外,即便是可见水印,也可能被轻易去除,难以成为可靠防护手段。
微软强调,随着AI技术不断进步,虚假内容的识别难度将进一步加大。为此,公司呼吁提升技术透明度,广泛采用图像水印和AI内容检测工具。其自研AI检测系统在测试中识别准确率超过95%,远超人类表现。
研究还指出,图像修复技术带来的“局部伪造”风险尤为突出,因其隐蔽性强,易被用于制造误导性新闻或政治宣传,成为深度伪造的新温床。
面对日益逼真的AI生成内容,仅依赖人类直觉已难以应对,构建多层次技术防御体系势在必行。