如何看待AI“一本正经地胡说八道”?
创始人
2025-07-02 20:40:29
0

本文转自【人民日报】

原标题:如何看待AI“一本正经地胡说八道”(新知)

【现象】

使用人工智能大模型时,不少人或许都遇到过类似问题:它们有时会捏造细节,甚至“一本正经地胡说八道”。比如,让它推荐书,给出的却是一堆压根不存在的书名;人物身份张冠李戴,还能给出一些并不准确的链接……这些现象都可以归为AI幻觉。

【点评】

所谓AI幻觉,可以通俗地理解为AI也会像人产生心理幻觉一样,遇到不熟悉或超出“知识储备”的问题时,编造一些并不存在的细节,生成与事实相悖的答案。一项调研显示,对于“公众认为使用AI应用过程中有哪些突出问题”,反馈最多的是“内容不准确,或含虚假信息”,占比高达42.2%。

AI幻觉从何而来?可能得从源头寻找答案。

大模型的工作原理,是基于概率生成内容。给它上半句,它就根据自己“学”过的海量知识,“算出”下半句该说什么。比如,当用户输入“今天天气非常”,它大概率会接“不错”“热”“潮湿”等答案,而不会出现“甜”。同时,大模型又不是简单地储存所有事实,而会像人脑记东西那样,进行大量压缩和泛化——也就是“抓概要、找规律”。因此,当“喂给”大模型的训练数据包含虚假信息时,它就会产生“幻觉”、给出错误答案。

有报告显示,我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长,AI幻觉潜藏的风险也随之增加。比如,如果一些看似合理却与现实相去甚远的内容被AI反复学习,会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥,已成为不容回避的课题。

不过也有观点认为,AI幻觉可被视作一种“发散思维”和“想象力”。理论上,如果把训练一个大模型看作信息“压缩”的过程,那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式,可能会出现谬误,也可能触发新的创造。对发展尚未定型的新事物,要保持开放心态,辩证看待其利与弊,在有效防范弊端的同时,给予足够空间使之朝好的方向成长。

人类塑造工具,工具也影响人类生活。应对AI幻觉等问题挑战的过程,既促使人们思考改进工作方法,也为AI不断进化提供了源动力。激发新技术的正向价值,让AI更好融入生产生活、赋能千行百业,我们迈向智慧时代之路才能走得更加稳当、更加顺畅。

(来源:人民日报)

相关内容

热门资讯

汇融密封取得具有易拆卸式过滤装... 金融界2025年7月23日消息,国家知识产权局信息显示,长春市汇融密封材料有限公司取得一项名为“一种...
原创 西... 济南广电·天下泉城客户端7月24日讯7月24日,济南市政府新闻办召开济南市“深入实施工业强市发展战略...
昆山巴洛德机器人取得运动位移机... 金融界2025年7月24日消息,国家知识产权局信息显示,昆山巴洛德机器人有限公司取得一项名为“运动位...
成都造全球首款本地大模型办公本... 离线AI能力、语音识别大模型、AI自适应会议纪要……7月22日,在“巅峰之境 AI为伍”新品发布会上...
值得买:基于全面AI战略打造消... 证券之星消息,值得买(300785)07月22日在投资者关系平台上答复投资者关心的问题。 投资者提问...
运营商的承诺要落地才见诚意 莫名其妙订了新业务、套餐资费眼花缭乱、收到境外骚扰电话,这些都是电信用户常见的消费痛点。近日,三大运...
小米Civi 4 Pro手机详... 核心定位与主打卖点 精准定位: 主打人像摄影,特别是自拍和前置视频,面向追求时尚设计、轻薄手感、出...
追觅科技拉开冰箱量产序幕 加速... 本报讯 (记者李春莲)近日,追觅科技(苏州)有限公司(以下简称“追觅科技”)在合肥举行Z-Fresh...
关于征集“人工智能联合实验室”... 各有关单位、职业院校: 为响应国家“人工智能+”行动战略,贯彻落实《教育强国建设规划纲要(2024—...
阿里云通义千问 Qwen3-C... DoNews7月23日消息,阿里云通义团队今日发布公告,宣布 Qwen3-Coder 正式开源,号称...