姚期智谈AI幻觉:未来需要做更多AI理论研究和安全性研究
创始人
2025-03-22 00:01:16
0

今年以来,随着生成式人工智能的发展,“AI幻觉”进入大众视野,受到关注和讨论。“AI幻觉”指大语言模型编造其认为是真实存在的甚至看起来合理或可信的信息。

3月21日,在2025国际基础科学大会(ICBS 2025)新闻发布会上,图灵奖得主、中国科学院院士、清华交叉信息研究院院长姚期智,在谈及未来AI发展的重点及挑战时表示,我们需要更多地关注AI安全方面的问题,并做好相关研究。AI幻想或者说幻觉以及它生成式的答案等,对使用AI来进行关键应用会带来一些风险。如果在一些重点的应用程序当中不能保证其安全性,就会存在一些漏洞。了解AI为什么会出现这种不安全的现象很重要,因为从应用层面来说,只有安全的AI技术才能赢得市场。

姚期智强调,我们仍然需要很多的理论研究来加深对AI的了解,从而更好地控制它,以实现更好的AI算法。“我们看到,目前AI前沿研究更像是实验科学——我们取得了很多成就,有很多的数据,但我们不太了解到底是为什么。所以我觉得这方面还需要进一步扩展,我们需要更好、更加深入地来了解AI的原理和基准。”姚期智说。

姚期智认为,未来,不仅要防止一些滥用AI的问题,还要考虑商业安全性这类的问题。从科学的角度来说,必须要了解AI的安全边界,需要在AI领域做出更多理论探索。

自从Open AI到DeepSeek,生成式人工智能的主力军大多数是90后、95后甚至00后,为什么会有这样一个现象?这种现象背后的技术代际跃迁逻辑是什么?

关于这些问题,姚期智在会上表示,现在有这么多年轻学者在人工智能领域做出重大贡献,主要与人工智能的发展路线有关。

姚期智说,人工智能科学已经存在了很多年,有七八十年的历史;而最近大模型的出现,改变了人工智能学科的整个形式。

“大模型的出现,相当于我们在以前试过的很多条路线里面,发现了一条带给我们想不到的惊人能力的路径,它甚至解决了图灵测试这个原始的最重要的问题。这条路线从技术上来讲,不像数学、物理那样需要那么多复杂的数学、物理基础。这使得做人工智能领域的前沿研究,相对容易着手、容易接近。”姚期智表示,“所以很多年轻人在学了大学本科课程以后,就已经看到了人工智能的前沿。这就是为什么DeepSeek背后100多个了不起的年轻人能够做出这些工作成果。这是一件非常令人兴奋的事,它使中国在人工智能学科发展中获得了有利地位。”

相关内容

热门资讯

中国电信青浦云湖数据中心空调工... 近日,中国电信算力高效调度示范项目(青浦云湖数据中心)数据机楼B一期空调主机工程完成关键节点:3台格...
“数据技术赋能数据产业发展”专... 日前,西城区政府主办的“中国数据街”高质量发展论坛——“数据技术赋能数据产业发展”专题论坛在“大吉巷...
工信部试点15位虚拟号码,滴滴... 本文基于以下微博话题的智搜结果生成 关于15位电话号码对滴滴司机接单效率的影响,结合政策设计和技术原...
智启津门·数聚上合 | 智慧城... 作为新一批国家数字经济创新发展试验区,天津不断培育壮大平台经济,推动政策创新与头部企业集聚,灵活用工...
祝贺!蒙牛首席科学家母智深当选... 近日,俄罗斯工程院官方网站显示,历经院士推荐、形式审查、材料审核、会议评审及全体院士投票等一系列严格...
ERP - 企业资源规划 企业资源规划系统:公司的神经系统 企业资源规划(ERP)系统就像公司的中枢神经系统,将所有重要流程和...
《头号追击》电竞新宠 华硕B8... 近日,一款融合了MOBA、英雄射击和吃鸡三大元素的游戏《头号追击》崭露头角,一跃成为电竞爱好者的新宠...
欧洲航天局:一个似小行星的外星... 一个看似小行星的不明物体近来引起多国天文学家注意。欧洲航天局7月2日说,这个不明物体可能来自外星系,...
惠州锂威取得铝塑膜厚度检测夹具... 金融界2025年7月4日消息,国家知识产权局信息显示,惠州锂威新能源科技有限公司取得一项名为“铝塑膜...
网络投票制作有难度?步骤逐一解... 网络投票制作有难度?其实不然。在当今数字化时代,借助丰富的网络资源和便捷的工具,网络投票制作已并非难...