AI聊天机器人虚假信息传播率显著上升

Newsguard最新研究显示,截至2025年8月,十大生成式AI工具在处理实时新闻话题时,有35%的情况会传播虚假信息,相较去年增长近一倍。这一变化与AI系统引入实时网络搜索功能密切相关,虽然拒绝回答用户问题的比例从31%降至0%,但也因此接入了“受污染的信息生态”。

AI模型表现差异显著,Claude与Gemini错误率最低,分别为10%与16.67%,而Inflection与Perplexity则分别高达56.67%与46.67%。专家指出,当前AI生成内容的核心问题在于其无法真正辨别信息真伪,仅能基于语言模式预测内容。尽管部分企业正探索“提示不确定性”等新技术,但解决虚假信息传播的根本难题仍任重道远。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1