姚期智谈AI幻觉:未来需要做更多AI理论研究和安全性研究
创始人
2025-03-22 00:01:16
0次

今年以来,随着生成式人工智能的发展,“AI幻觉”进入大众视野,受到关注和讨论。“AI幻觉”指大语言模型编造其认为是真实存在的甚至看起来合理或可信的信息。

3月21日,在2025国际基础科学大会(ICBS 2025)新闻发布会上,图灵奖得主、中国科学院院士、清华交叉信息研究院院长姚期智,在谈及未来AI发展的重点及挑战时表示,我们需要更多地关注AI安全方面的问题,并做好相关研究。AI幻想或者说幻觉以及它生成式的答案等,对使用AI来进行关键应用会带来一些风险。如果在一些重点的应用程序当中不能保证其安全性,就会存在一些漏洞。了解AI为什么会出现这种不安全的现象很重要,因为从应用层面来说,只有安全的AI技术才能赢得市场。

姚期智强调,我们仍然需要很多的理论研究来加深对AI的了解,从而更好地控制它,以实现更好的AI算法。“我们看到,目前AI前沿研究更像是实验科学——我们取得了很多成就,有很多的数据,但我们不太了解到底是为什么。所以我觉得这方面还需要进一步扩展,我们需要更好、更加深入地来了解AI的原理和基准。”姚期智说。

姚期智认为,未来,不仅要防止一些滥用AI的问题,还要考虑商业安全性这类的问题。从科学的角度来说,必须要了解AI的安全边界,需要在AI领域做出更多理论探索。

自从Open AI到DeepSeek,生成式人工智能的主力军大多数是90后、95后甚至00后,为什么会有这样一个现象?这种现象背后的技术代际跃迁逻辑是什么?

关于这些问题,姚期智在会上表示,现在有这么多年轻学者在人工智能领域做出重大贡献,主要与人工智能的发展路线有关。

姚期智说,人工智能科学已经存在了很多年,有七八十年的历史;而最近大模型的出现,改变了人工智能学科的整个形式。

“大模型的出现,相当于我们在以前试过的很多条路线里面,发现了一条带给我们想不到的惊人能力的路径,它甚至解决了图灵测试这个原始的最重要的问题。这条路线从技术上来讲,不像数学、物理那样需要那么多复杂的数学、物理基础。这使得做人工智能领域的前沿研究,相对容易着手、容易接近。”姚期智表示,“所以很多年轻人在学了大学本科课程以后,就已经看到了人工智能的前沿。这就是为什么DeepSeek背后100多个了不起的年轻人能够做出这些工作成果。这是一件非常令人兴奋的事,它使中国在人工智能学科发展中获得了有利地位。”

相关内容

热门资讯

科技介绍辅助!葫芦娃大厅辅助多... 科技介绍辅助!葫芦娃大厅辅助多功能AIapp,葫芦娃大厅一直真的是有辅助app1、每一步都需要思考,...
一分钟秒懂作弊器!道游互娱作弊... 一分钟秒懂作弊器!道游互娱作弊器多功能AI软件,道游互娱一贯有作弊器软件1、让任何用户在无需道游互娱...
玩家必备攻略外挂!千秋互娱外挂... 玩家必备攻略外挂!千秋互娱外挂多功能AI工具,千秋互娱确实是真的有外挂工具1、千秋互娱免费辅助多个强...
教程攻略作弊器!福城娱乐作弊器... 教程攻略作弊器!福城娱乐作弊器多功能AI插件,福城娱乐好像存在有作弊器插件1、金币登录送、破产送、升...
如何分辨真伪外挂!067互娱外... 如何分辨真伪外挂!067互娱外挂多功能AI教程,067互娱切实是有外挂教程1、玩家可以在067互娱线...
必备攻略透视器!炫酷娱乐透视器... 必备攻略透视器!炫酷娱乐透视器多功能AI插件,炫酷娱乐原来真的是有透视器插件亲,关键说明,炫酷娱乐透...
分享实测开挂!黑莓大厅开挂多功... 分享实测开挂!黑莓大厅开挂多功能AI教程,黑莓大厅切实是有开挂教程1、黑莓大厅公共底牌简单,黑莓大厅...
记者揭秘透视器!新鸿狐透视器多... 记者揭秘透视器!新鸿狐透视器多功能AI工具,新鸿狐好像真的有透视器工具1、金币登录送、破产送、升级送...
推荐一款外挂!布丁娱乐外挂多功... 推荐一款外挂!布丁娱乐外挂多功能AI工具,布丁娱乐真是真的是有外挂工具1.布丁娱乐 选牌创建新账号,...
科技通报辅助!长城互动娱乐辅助... 科技通报辅助!长城互动娱乐辅助多功能AI插件,长城互动娱乐原来真的是有辅助插件1、实时长城互动娱乐透...