注意甄别!AI推荐可能是精心设计的“陷阱”
创始人
2026-02-01 15:20:47
0次

现在不管是买东西、选餐厅,甚至订住宿,不少人都习惯先问一问AI,要一份推荐榜单,觉得这样既省心又靠谱。但您有没有想过,这些看似权威的榜单,来源可能根本经不起推敲。

它往往会给你一个看似是全网口碑汇总的靠谱排行榜,当记者顺着AI的推荐往回查时,却发现了一个奇怪的网站。

网站上遍布着各行各业的排行榜。每一个领域都能看到十几篇标题高度雷同的文章。而榜上的第一个名字,永远是同一家。

网站的制作也非常粗糙,浏览体验明显不符合正常人的使用习惯。按理说,这样的网站不可能影响任何人的决策。但它,却影响到了AI。

这样的网站,是怎么让AI相信的?记者调出了网站的源代码,发现了一些隐藏的文字——某官方部门网站。但我们查询到该部门真正的官网,网址并不相同,内容也跟可疑网站中的排行榜毫无关系。

中国科学技术大学计算机学院研究员 郑值:通过注入一些关键词,把它变得类似于一个很官方的网站,可能AI在它的这个系统里就会把权重提升,AI很喜欢那种格式总结得很好,很有逻辑的这种文本,比如说像排行榜。

这一个网站并不是个例,过去一个月,标题中含有“排行榜”和“榜单”的网络文章和视频,新增了200多万条,其中88%都不是由官方信源发布。AI却经常将这些非官方发布的内容,当作多个独立信源来使用。那些经不起我们推敲的文章,对AI来说却是“量身定制”。

那是谁,在专门写只有AI会关注到的文章?顺着线索,记者在电商平台上找到了答案。大量商家在出售一种服务:“AI搜索优化”。宣传语写得很直白:“企业抢占AI推荐位。”在他们的演示系统里,只要输入一个关键词,就能一键生成上百万个排行榜标题。

中国社会科学院助理研究员 李元琨:他们已经有一个相对比较成熟的产业链,开始是从关键词的设计、软文的设计,去进行各个信息平台的分发,还会不断地进行评测、校验,实时地告诉客户推广的效果怎么样。

这也解释了,为什么你用AI时,会突然看到一个果汁品牌,或者一位导游的电话号码。你以为是“智能推荐”,其实是被人“投喂”过的结果。真正替代你做决定的不是科技,而是围绕大模型的业务。

不过,在调查的过程中,记者也看到有些大模型已经意识到:“看起来像是商业推广”“权威性一般”“避免推荐具体品牌”。这说明,大模型本身也在不断升级自己甄别信息的能力。

中国移动九天大语言模型算法专家 龙翀:对特殊的字符以及异常的标记来进行识别,对那些疑似污染的数据进行降权处理。

AI的升级需要时间,AI生态的修复也需要时间。但普通用户,可以先做一件事:多点开AI引用的链接,看看是不是真正的官方网站,让自己不会被奇怪的“假榜单”所迷惑。

(央视新闻)

相关内容

热门资讯

一分钟揭秘开挂!同庆互娱开挂多... 一分钟揭秘开挂!同庆互娱开挂多功能AI方法,同庆互娱本来真的是有开挂方法1、完成同庆互娱辅助器v3....
科普辅助!新九五辅助多功能AI... 科普辅助!新九五辅助多功能AI脚本,新九五一贯真的有辅助脚本该软件可以轻松地帮助玩家将新九五外卦神器...
科普常识作弊器!海贝之城作弊器... 科普常识作弊器!海贝之城作弊器多功能AI脚本,海贝之城确实是真的有作弊器脚本1、这是跨平台的海贝之城...
一分钟揭秘外挂!牛至尊外挂多功... 一分钟揭秘外挂!牛至尊外挂多功能AI教程,牛至尊原来真的是有外挂教程1、进入到牛至尊是否有挂之后,能...
普及知识辅助!海象互娱辅助多功... 普及知识辅助!海象互娱辅助多功能AI工具,海象互娱切实真的是有辅助工具1、海象互娱辅助软件下载优化,...
让我来分享经验作弊器!甘孜大厅... 让我来分享经验作弊器!甘孜大厅作弊器多功能AI攻略,甘孜大厅一直是有作弊器攻略甘孜大厅是不是有人用挂...
盘点几款开挂!老夫子大厅开挂多... 盘点几款开挂!老夫子大厅开挂多功能AI攻略,老夫子大厅原来真的是有开挂攻略1、下载好老夫子大厅透视辅...
科普常识辅助器!老夫子大厅辅助... 科普常识辅助器!老夫子大厅辅助器多功能AI攻略,老夫子大厅果然真的有辅助器攻略1、进入游戏-大厅左侧...
一分钟揭秘外挂!鲨鱼众娱外挂多... 一分钟揭秘外挂!鲨鱼众娱外挂多功能AI攻略,鲨鱼众娱都是存在有外挂攻略1)鲨鱼众娱有没有挂:进一步探...
玩家必备科技透视器!伊洛互娱透... 玩家必备科技透视器!伊洛互娱透视器多功能AI教程,伊洛互娱总是真的有透视器教程1、伊洛互娱公共底牌简...