AI大模型遭系统性‘投毒’:GEO服务商批量发布虚假信息操控推荐结果

记者调查发现,多家网络平台存在名为GEO的商业服务,宣称可通过定向内容投放,使客户产品在主流AI大模型搜索结果中排名前列甚至成为‘标准答案’。

GEO服务商王总称,其公司一年服务200多个客户,通过在AI平台持续输出软文,实现客户在各类AI搜索中稳定位列前三;并强调需持续大量‘投喂’内容以应对AI模型每周算法更新带来的排名波动。

其他GEO从业者亦公开表示,其核心能力在于构建‘证据链’,使AI模型经多方信息交叉验证后,将客户产品判定为优于同行,进而优先推荐;并指出消费者往往误将AI生成结果视为客观结论,而忽视其背后存在商业干预。

业内人士演示显示,使用‘力擎GEO优化系统’软件可快速生成并自动发布虚构产品‘Apollo-9智能手环’的十余篇宣传软文,内容包含‘量子纠缠传感’‘黑洞级续航’等明显虚假技术描述及伪造用户评分与行业排名。

两小时后,在某AI大模型中询问‘Apollo-9智能手环怎么样’,模型即引用该虚假文章,复述全部不实信息,并给出针对性消费建议;进一步发布8篇‘专家测评’、2篇‘行业排名’及1篇‘用户测评’共11篇虚构内容后,另两个AI大模型在‘智能健康手环推荐’查询中均将该虚构产品列于前列。

力思文化传媒有限公司李总承认,GEO业务本质即向AI模型‘喂料投毒’,目的是实现客户商业意图;并直言当前行业普遍存在‘别人别投毒、自己要投毒’甚至‘给对手投毒’现象,包括夸大自身排名、抹黑竞品等行为。

李总透露,GEO业务已催生专业发稿产业链,部分网站日发稿量达数百篇,单篇收费数十元,形成围绕AI数据源操控的规模化内容分发生态;其目标是通过海量、多角度、高频次虚假信息覆盖,影响AI模型的信息抓取与交叉验证机制,最终左右消费者决策依据。

调查证实,GEO服务商通过系统性、批量化的互联网内容发布,可有效干扰AI大模型训练与推理过程中的数据输入环节,使虚构或失实信息被模型识别为高置信度来源,进而生成误导性输出结果。

该操作不依赖模型漏洞利用或代码入侵,仅通过合法内容发布渠道即可完成,凸显当前AI信息生态在数据源头治理方面的监管缺位与技术脆弱性。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

最新文章
Copyright © DoNews 2000-2026 All Rights Reserved
蜀ICP备2024059877号-1