姚期智谈AI幻觉:未来需要做更多AI理论研究和安全性研究
创始人
2025-03-22 00:01:16
0

今年以来,随着生成式人工智能的发展,“AI幻觉”进入大众视野,受到关注和讨论。“AI幻觉”指大语言模型编造其认为是真实存在的甚至看起来合理或可信的信息。

3月21日,在2025国际基础科学大会(ICBS 2025)新闻发布会上,图灵奖得主、中国科学院院士、清华交叉信息研究院院长姚期智,在谈及未来AI发展的重点及挑战时表示,我们需要更多地关注AI安全方面的问题,并做好相关研究。AI幻想或者说幻觉以及它生成式的答案等,对使用AI来进行关键应用会带来一些风险。如果在一些重点的应用程序当中不能保证其安全性,就会存在一些漏洞。了解AI为什么会出现这种不安全的现象很重要,因为从应用层面来说,只有安全的AI技术才能赢得市场。

姚期智强调,我们仍然需要很多的理论研究来加深对AI的了解,从而更好地控制它,以实现更好的AI算法。“我们看到,目前AI前沿研究更像是实验科学——我们取得了很多成就,有很多的数据,但我们不太了解到底是为什么。所以我觉得这方面还需要进一步扩展,我们需要更好、更加深入地来了解AI的原理和基准。”姚期智说。

姚期智认为,未来,不仅要防止一些滥用AI的问题,还要考虑商业安全性这类的问题。从科学的角度来说,必须要了解AI的安全边界,需要在AI领域做出更多理论探索。

自从Open AI到DeepSeek,生成式人工智能的主力军大多数是90后、95后甚至00后,为什么会有这样一个现象?这种现象背后的技术代际跃迁逻辑是什么?

关于这些问题,姚期智在会上表示,现在有这么多年轻学者在人工智能领域做出重大贡献,主要与人工智能的发展路线有关。

姚期智说,人工智能科学已经存在了很多年,有七八十年的历史;而最近大模型的出现,改变了人工智能学科的整个形式。

“大模型的出现,相当于我们在以前试过的很多条路线里面,发现了一条带给我们想不到的惊人能力的路径,它甚至解决了图灵测试这个原始的最重要的问题。这条路线从技术上来讲,不像数学、物理那样需要那么多复杂的数学、物理基础。这使得做人工智能领域的前沿研究,相对容易着手、容易接近。”姚期智表示,“所以很多年轻人在学了大学本科课程以后,就已经看到了人工智能的前沿。这就是为什么DeepSeek背后100多个了不起的年轻人能够做出这些工作成果。这是一件非常令人兴奋的事,它使中国在人工智能学科发展中获得了有利地位。”

相关内容

热门资讯

龙门实验室人工智能模型斩获全球... 河南《创新科技》杂志社融媒体记者 房磊 在日前举办的CVPR2025工业视觉异常检测挑战赛中,龙门实...
南开学子,建功在天涯! 今日湖畔放声唱 明朝建功在天涯 秉承“爱国奋斗,公能日新”之精神 心怀“知中国,服务中国”之志向 这...
泸州老窖应邀出席布勒交流日 共... 全球正面临气候、生态危机与社会不平等的叠加挑战,基础产业价值链的重构刻不容缓。在此背景下,由全球技术...
热电偶温度变送器的工作原理解析 热电偶温度变送器的核心工作原理基于热电效应,即当两种不同金属导体焊接在一起形成闭合回路时,若两个接合...
太原四联重工取得焦炉取门移动装... 金融界2025年7月9日消息,国家知识产权局信息显示,太原四联重工股份有限公司取得一项名为“一种焦炉...
智元发布脚踩“风火轮”的赛博哪... 曾在今年第一季度预告过“哪吒机器人”的智元机器人公司,近日正式发布了这款机器人的再进化演示视频。 这...
超12万平方米全球招商,光明大... 深圳商报·读创客户端记者 刘芳 近日,深圳市光明科学城大科学装置集群中试转化基地主体结构正式封顶。这...
中科创威取得移动硬盘电磁屏蔽罩... 金融界2025年7月8日消息,国家知识产权局信息显示,深圳市中科创威科技有限公司取得一项名为“一种移...
我科学家研发出高效微型真核基因... 原标题:我科学家研发出 高效微型真核基因编辑工具 记者7月4日获悉,西北农林科技大学联合国内多家单位...
开店才3天,它就去出差了!杭州... 潮新闻客户端 记者 陈颖 “店里的机器狗去哪了?” “今天全都去客户企业那出差去了。” 机器狗也会出...