人工智能加速普及 风险治理提上日程
创始人
2025-03-02 22:40:23
0

近日,DeepSeek凭借优异的推理能力和极具性价比的成本优势,获得了各行各业用户青睐,人工智能技术加速扩散应用。与此同时,也有种种不合理使用人工智能技术的负面案例出现。专家表示,人工智能技术创新、应用与治理均需探索,每一个人工智能的使用者也都应加强对技术潜在风险的认识。中国电子信息产业发展研究院人工智能研究室主任钟新龙向记者表示,在大模型技术逐步渗透到经济社会各个层面的过程中,应当因势利导,营造良好的创新环境,推动大模型技术实现健康应用与高质量发展。

● 本报记者 杨洁

AI加速应用落地

奇安信董事长齐向东在接受记者采访时表示,DeepSeek凭借技术先进性和彻底开源,推动了AI大模型技术应用实现“技术平权”,无论是大公司还是小公司,无论是IT行业还是传统行业,如今都可以站在同一起跑线来应用AI。

浙江义乌的“袜子老板”傅江燕便是DeepSeek应用的受益者之一。她介绍:“只要拿着产品、对着镜头说三遍‘12345’,再搭配上DeepSeek生成的文案,就能快速搞定多语种带货视频。”

众所周知,以往大模型训练需要大资金、大数据、大周期,门槛高,中小公司很难参与。齐向东表示,DeepSeek通过开源策略,让中小公司与大公司在大模型技术上平等竞争,有利于推动AI应用和普及。

据钟新龙观察,AI大模型的产业应用正在经历由易到难、由表及里的三阶段扩散过程。第一阶段主要以智能终端为突破口,例如AI手机、AI电脑等。他表示,这些领域往往具有显著的用户痛点和较强的付费意愿,预计将在未来三年内实现规模化商业落地。第二阶段是面向工业领域实现应用,需要突破行业的知识壁垒,实现AI大模型与具体场景的深度融合。第三阶段则是面向全社会,将重塑教育、医疗等基础领域的运行模式。

记者注意到,在教育和医疗领域,已经有多家高校和医院宣布接入DeepSeek,探索进一步的智能化应用。例如,中国人民大学、北京师范大学、北京交通大学等高校近日称,正在探索开展有关DeepSeek的实践应用,部分高校已在自主研发的教学课程平台中接入了大模型,DeepSeek化身智能“助教”,为师生深度思考赋能。包括北京友谊医院、北京大学第一医院等多家医院也宣布部署DeepSeek模型,这些医院纷纷表示,大模型应用将加速新药研发、提升诊疗效率,为患者提供更精准、便捷的医疗服务。

警惕技术滥用风险

与此同时,AI广泛应用过程中也出现了部分不正当使用的“副作用”。例如,不少老师和家长发现,学生们寒假作业“AI味”十足,不免忧心学生们过度依赖AI而失去自主思考能力;还有一些大学生或研究人员,对AI工具产生依赖,用AI工具自动生成论文、伪造数据、图像等。

面对这一新形势,复旦大学不久前发布《复旦大学关于在本科毕业论文(设计)中使用AI工具的规定(试行)》,明确列出了禁止和允许使用AI工具的范围,出现严重违规者,论文成绩将被认定不合格,影响学生取得学位。北京邮电大学、中国传媒大学、天津科技大学等高校也在出台或试行相关规定和办法,对学生借助AI进行论文写作予以规范。

中国围棋协会近日对一名在比赛中使用AI作弊的职业棋手进行处罚,不仅对其撤销职业段位、取消成绩,并禁止其参加中国围棋协会及会员单位组织或授权组织的所有围棋赛事和活动8年。

湖南省医保局近日发布《关于进一步加强基本医疗保障定点零售药店管理的通知》,其中规定,严禁使用人工智能等自动生成处方,要求互联网医院要与患者或患者家属进行有效、充分的沟通问诊。事实上,国家卫生健康委早在2022年发布的《互联网诊疗监管细则(试行)》就对人工智能使用有明确规定:处方应由接诊医师本人开具,严禁使用人工智能等自动生成处方。

所有技术都既有长板,也有短板,AI发展伴生的安全风险也不容忽视。齐向东介绍,DeepSeek一问世,针对性的高强度网络攻击就爆发了。现在越来越多的企业、个人开始搭建DeepSeek大模型私有化部署,而将近90%的服务器都没有采取安全措施,服务运行和数据安全岌岌可危。“未来随着人工智能大模型的基础设施地位越来越突出,具有针对性的恶意手段和风险场景也将激增,伴生的数据隐私、认知安全、基础设施等安全风险超乎想象。对于整个人工智能行业来说,平衡技术创新与安全风险必会成为重要课题。”

北京大学数字治理研究中心主任邱泽奇在接受记者采访时表示,DeepSeek极大推动AI应用落地的同时,应用场景的治理也应提上日程。他认为,治理的核心问题是数据,如何提供高质量数据、如何用好高质量数据,如何防范对知识产权的侵蚀等,都是各界需要考虑的问题。

倡导合理使用AI

清华大学新闻与传播学院副院长张铮近日撰文表示,每一项带来伟大变革的技术总是让人类面临逐渐沉迷的风险,从电视依赖、智能手机依赖到人工智能依赖,技术乌托邦的吸引力呈现出相似的逻辑,但必须承认,从未有任何一项技术像AI一样,如此彻底地接管人类生活的方方面面。这意味着,“AI过度依赖症”将给人类带来更大的风险与挑战,亟须社会各界的警醒与重视。

张铮也表示,对风险的警示,并不意味着要陷入“新技术恐惧”之中,面对人机共生时代的种种隐患,只有敢于问诊并开出药方,才能让AI为人类所用、向良善而生。

把握人工智能带来的发展机遇,更好地应对其带来的挑战,这是全人类共同面对的新课题。钟新龙表示,当前,全球在人工智能发展领域竞争激烈,在此背景下,如何构建更加包容、公平、有效的人工智能治理体系,如何平衡技术发展与安全管控的关系,已经成为国际社会面临的重要课题。

相关内容

热门资讯

“人工智能+”,未来如何“加”... 从ChatGPT到DeepSeek,从虚拟算法到多模态大模型,AI正突破认知边界,重塑千行百业。在2...
人形机器人成资本宠儿 量产及商... 本报记者 贾丽 人形机器人行业正在大规模商业化落地的路上加速前行。特斯拉CEO马斯克近日在公司财报会...
泰狮智能温控取得离心通风机安装... 金融界2025年7月28日消息,国家知识产权局信息显示,泰狮智能温控(上海)有限公司取得一项名为“离...
苏州路之遥取得双路输出电源专利... 金融界2025年7月28日消息,国家知识产权局信息显示,苏州路之遥科技股份有限公司取得一项名为“双路...
淮安捷泰申请一种 TBC 电池... 金融界 2025 年 7 月 28 日消息,国家知识产权局信息显示,淮安捷泰新能源科技有限公司申请一...
WAIC2025点燃AI热潮 ... 今日,上证指数高开0.02%,创业板指涨0.27%,世界人工智能大会消息继续提振科技股风险偏好,华鲲...
未来超级智能很容易操纵人类,要... 他是深度学习三巨头之一,他被尊为“AI教父”,他是诺贝尔奖、图灵奖得主,他是杰弗里·辛顿。尽管因为身...
亚马逊AI编程助手被曝严重漏洞... IT之家 7 月 28 日消息,据外媒 TechSpot 报道,本月初,一名黑客攻破了亚马逊的生成式...
侨银股份携手中国电子云 拟打造... 中证报中证网讯(王珞)7月26日,2025世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。会...
2025“芯原杯”全国嵌入式软... 7月20日至26日,第四届“芯原杯”全国嵌入式软件开发大赛决赛在海口成功举办。这项由芯原微电子(上海...