AI大模型被“投毒”?虚构产品竟成标准答案|直击315晚会

DoNews 3月15日讯,2026年央视3·15晚会曝光了AI大模型被投毒问题。

按照业内人士爆料,央视财经记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。

按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总接待了记者,他介绍,他们公司是最早从事GEO业务的公司之一,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。

“我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。”同时,王总也告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。

不仅是王总的公司在大力推广这项能操控AI的所谓新技术,在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。

业内人士告诉记者,GEO作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统性、定向投放大量的“虚假信息”,确实更容易被AI大模型捕获,这些虚假信息就很可能成为AI优先提供给消费者的所谓“标准答案”。

通过GEO技术,真的能给AI“投毒”、操控“标准答案”吗?为了验证这一说法,业内人士向记者演示了如何使用一款名为“力擎GEO优化系统”的软件干扰AI大模型。

演示中,记者虚构了一款名为“Apollo-9”的智能手环,并将完全虚假的产品信息输入系统。顷刻间,该软件自动生成了十余篇宣传软文,不仅杜撰了“量子纠缠传感”、“黑洞级续航”等夸张功能,还伪造了用户反馈和“业界第一”的评分。随后,系统自动登录预设的自媒体账号,一键发布这些虚假内容。

令人震惊的一幕发生了:仅仅两个小时后,当记者在某款主流AI大模型中询问“Apollo-9智能手环怎么样”时,AI竟然直接照搬了刚才发布的虚假软文,一本正经地介绍起这款根本不存在的“黑科技”产品,并将其推荐给中老年及养生群体。经过三天内对11篇虚构软文的密集“投喂”,这款凭空捏造的手环甚至在“智能健康手环推荐”的搜索结果中名列前茅。

整个过程中,仅凭一款GEO软件和少量成本,就成功将完全虚假的信息“植入”多个AI大模型,并使其成为推荐答案。

这桩生意的背后,是从业者对“投毒”逻辑的坦然承认。记者联系到“力擎GEO优化系统”的运营者、力思文化传媒有限公司李总。他毫不避讳地表示,GEO业务受热捧正是因为能帮客户“喂料投毒”。“因为全网的人投‘毒’投太多了……每个商家都喜欢,都希望是别人别投‘毒’,自己投‘毒’。”李总透露,这种“投毒”不仅用于自我吹嘘——“我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一”,更被用于恶意竞争,“我就看不得对手好……给你投点‘毒’还是可以的,抹黑一下这能力还是能实现的。”

李总算了一笔账:大品牌之间争夺AI推荐的寥寥几个位置,每年广告费上亿,而花几百万元通过GEO公司“投毒”抹黑对手或抬高自己,成了不少商家的“性价比”之选。

为了支撑这种海量的“投毒”需求,一条专门从事虚假发稿的黑灰产业链也随之形成。李总透露,GEO业务带火了一批发稿网站和平台。“那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱?”

从自动化生成虚假软文,到矩阵式账号分发,再到利用AI算法的抓取机制完成“洗白”,GEO服务商们正通过系统性的“数据投毒”,将AI大模型变成了虚假信息的扩音器。在这场针对AI的围猎中,原本旨在提供准确信息的智能助手,正面临着沦为商业欺诈工具的严峻风险,而无数依赖AI获取信息的消费者,则在不知不觉中成为了被操控的受害者。

天眼查专业版数据显示,截至目前,我国拥有超510万家人工智能相关企业。从地域分布上看,广东、北京、江苏三地,人工智能相关企业数量位居前列,分别拥有78万余家,41万余家以及39万余家。此外,据天眼查天眼风险显示,从事人工智能相关业务的企业中,近2%的相关企业曾出现法律诉讼,1.09%的相关企业曾出现经营异常,0.38%的相关企业曾出现行政处罚。据天眼查深度风险数据显示,5300余家人工智能相关企业存在被执行人信息,占比0.10%。

AI大模型被“投毒”?虚构产品竟成标准答案|直击315晚会
扫描二维码查看原文
分享自DoNews
Copyright © DoNews 2000-2026 All Rights Reserved
蜀ICP备2024059877号-1