近段时间，一些网络直播间利用AI技术生成虚假产品视频进行带货，消费者难以辨别真伪。央视新闻调查发现，部分手机平台直播间展示的樟树港辣椒种植画面存在明显异常，如植株高达一人、产量远超实际、农户在深水中采摘等不符合常理的情景。

当记者询问辣椒种子是否保真时，主播声称“所见即所得”，但对背景视频的真实性未作正面回应。奇安信集团副总裁刘浩指出，这些画面存在“穿模”现象，AI建模基于语言生成，无法准确模拟真实世界的物理规律。

湖南岳阳湘阴县樟树镇高级农艺师黄源表示，视频中辣椒植株形态、花朵特征、叶片形状均与真实樟树港辣椒不符，且每亩产量宣称超过6000斤，远高于实际亩产2000至3000斤的水平。

法律专家指出，使用AI制作虚假或不存在的商品内容，冒用品牌牟利，涉嫌民事侵权甚至刑事犯罪。尽管各大平台已升级AI内容识别系统，要求标注AI生成内容，但仍有人通过技术手段绕过审核。

过去需高技术门槛和成本的深度伪造，如今借助AI大模型可在几分钟内将一张照片转化为逼真的直播带货视频。截至目前，我国生成式人工智能用户规模达2.3亿人，AI技术迭代迅速，给信息真实性监管和平台治理带来新挑战。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。