如何看待AI“一本正经地胡说八道”?
创始人
2025-07-02 20:40:29
0

本文转自【人民日报】

原标题:如何看待AI“一本正经地胡说八道”(新知)

【现象】

使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。比如,让它推荐书,给出的却是一堆压根不存在的书名;人物身份张冠李戴,还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。

【点评】

所谓AI幻觉,可以通俗地理解为AI也会像人产生心理幻觉一样,遇到不熟悉或超出“知识储备”的问题时,编造一些并不存在的细节,生成与事实相悖的答案。一项调研显示,对于“公众认为使用AI应用过程中有哪些突出问题”,反馈最多的是“内容不准确,或含虚假信息”,占比高达42.2%。

AI幻觉从何而来?可能得从源头寻找答案。

大模型的工作原理,是基于概率生成内容。给它上半句,它就根据自己“学”过的海量知识,“算出”下半句该说什么。比如,当用户输入“今天天气非常”,它大概率会接“不错”“热”“潮湿”等答案,而不会出现“甜”。同时,大模型又不是简单地储存所有事实,而会像人脑记东西那样,进行大量压缩和泛化——也就是“抓概要、找规律”。因此,当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。

有报告显示,我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长,AI幻觉潜藏的风险也随之增加。比如,如果一些看似合理却与现实相去甚远的内容被AI反复学习,会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥,已成为不容回避的课题。

不过也有观点认为,AI幻觉可被视作一种“发散思维”和“想象力”。理论上,如果把训练一个大模型看作信息“压缩”的过程,那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式,可能会出现谬误,也可能触发新的创造。对发展尚未定型的新事物,要保持开放心态,辩证看待其利与弊,在有效防范弊端的同时,给予足够空间使之朝好的方向成长。

人类塑造工具,工具也影响人类生活。应对AI幻觉等问题挑战的过程,既促使人们思考改进工作方法,也为AI不断进化提供了源动力。激发新技术的正向价值,让AI更好融入生产生活、赋能千行百业,我们迈向智慧时代之路才能走得更加稳当、更加顺畅。

(来源:人民日报)

相关内容

热门资讯

华理榜样|四朵金花斩获世界名校... 在毕业季的喧嚣中,有这样一间宿舍悄然成为焦点——材料学院的刘一笑、陈施萌、刘亦佳、王文蓓四位同学分别...
壹倍科技申请一种图像配准方法等... 金融界2025年7月2日消息,国家知识产权局信息显示,深圳市壹倍科技有限公司申请一项名为“一种图像配...
大数据“精准号脉”,让炼好钢不... 长期以来,钢铁工业因其大型复杂流程工业,全流程大量工序处于“黑箱”状态。为打破这一“黑箱”,江苏省镔...
雷军回应订单质疑:SU7转单占... 在7月2日晚间的直播活动中,雷军谈到发布YU7的心路历程: “发布会之前我都特别担心,主要有三点:一...
马斯克xAI获百亿美元融资,加... 近日,据CNBC及国际多家媒体报道,埃隆·马斯克的人工智能企业xAI宣布,于7月1日成功筹集了总额高...
光博士取得易卷边布料切割设备专... 金融界2025年7月2日消息,国家知识产权局信息显示,东莞市光博士激光科技股份有限公司取得一项名为“...
曝新款高通骁龙移动平台改用三星... 【CNMO科技消息】7月2日,数码闲聊站透露,高通正在研发的新一代旗舰处理器SM8850s将采用三星...
迪士尼、漫威“开炮”,谁在定义... 近期,包括迪士尼企业、漫威角色、卢卡斯影业、20世纪福克斯电影公司(统称“迪士尼”)以及环球影城制片...
脑机接口概念升温,多家上市公司... 意念操控机械臂、盲人重见光明、人机深度交互……这些科幻场景正加速成为现实。 2025年以来,脑机接口...
警告:一旦达到AGI和AI超级... 在今天的专栏中,我要解决一个关于顶级 AI可逆性的流行误解。这种观点认为,如果我们能够实现人工通用智...