切实把好人工智能安全关口
创始人
2025-09-21 12:01:54
0

作者:杨广铭

如今,人工智能正深刻改变着人们的生产生活方式,也给社会安全与稳定带来了严峻挑战。人工智能技术的复杂性和不确定性带来多种风险,有可能对个人、企业和社会产生较大的负面影响。因此,推动人工智能安全体系建设,切实把好安全关口,已成为全社会亟须应对的重要课题。

近年来,我国持续加快人工智能技术领域立法步伐,出台了一系列法律法规,在加强对人工智能监管、防范人工智能风险等方面发挥了积极作用。随着人工智能技术应用的快速发展,我们需要进一步把握发展趋势和规律,加快人工智能立法进程,制定具有前瞻性的人工智能法律法规,为相关技术的研发、应用和管理提供法治保障;聚焦人工智能重点领域制定法规政策、行业规范,强化对人工智能技术滥用的法律约束,逐步完善人工智能相关法律体系,为人工智能安全治理提供法律依据。

在现有法律政策框架下,相关部门要加强对人工智能的监管,把平台、企业、开发者、使用者的法定责任贯通到底,针对算法推荐、深度合成、生成式服务,完善安全评估、备案审查、标识提示、分类分级等制度安排,推动企业建立首席安全官和算法治理机制,形成“可解释、可审计、可问责”的闭环治理格局;建立包括技术风险、数据安全风险、伦理风险、社会影响等在内的风险评估体系,对人工智能系统的潜在风险进行全面、动态的评估,以便及时发现和防范风险;进一步建立健全分类分级监管机制,根据人工智能应用的领域、风险等级、安全后果以及容错能力等,划分不同监管级别,实施差异化的监管措施,以确保人工智能技术健康、安全、可持续发展。

针对“AI造谣”“AI换脸换声电诈”等突出问题,相关部门要提升线索感知、源头封堵、溯源取证、依法处置能力,对利用人工智能进行违法犯罪的行为进行全要素研判,严格整治“数据链—算力链—工具链—资金链”黑灰产业,强化快速止付、紧急冻结、追赃挽损,坚决遏制借“智”行骗、以“技”害民;要把“以技治技、以智御智”作为建设方向,加快建设大模型,服务人工智能全领域;要打通数据壁垒、业务壁垒、系统壁垒,完善实战化实验室和联合攻关机制,以科技赋能严打违法犯罪行为。

对人工智能实行有效安全监管,离不开全社会的共同参与。相关部门要建立协同监管机制,形成监管合力;建立社会多元共治机制,鼓励行业协会、社会组织、企业等参与人工智能安全治理,着力形成政府部门、企业、社会组织和公众共同参与的协同共治新局面;要加大宣传力度,用好人工智能技术应用“正面清单、负面清单、风险提示”,营造风清气正、向上向善的网络生态。

(来源:人民公安报,作者单位:辽宁省大连市公安局网安支队)

相关内容

热门资讯

2025年我国企业数据产品和服... 今天,国家数据局举行新闻发布会,相关负责人在会上介绍,“数据要素×”三年行动取得阶段性成效,我国企业...
亚马逊贝佐斯:AI不会造成大规... 快科技6月11日消息,据媒体报道,亚马逊创始人杰夫·贝佐斯近日在接受采访时表示,他驳斥人工智能将造成...
场景创新驱动数字人才培养 产学研用协同创新体系不仅能够在真实的创新环境中锻炼数字人才的实践能力和解决复杂问题的本领,而且通过建...
2026年华为WATCH GT... 一、华为WATCH GT 6系列全新登场 当智能穿戴设备遇上情绪健康管理,华为WATCH GT 6...
毕业生忙着证明论文是人写的 陈浩是华中科技大学电子信息专业一名大四学生,他今年的毕业设计是开发一套人工智能生成内容(AIGC)检...
活力中国调研行丨从实验室到家庭... 办公区分两部分,左边办公区是概念验证,右边办公区是中试平台,最前方是新鲜出炉的创新产品。“前店后厂”...
三星Galaxy Watch8... IT之家 6 月 11 日消息,科技媒体 Android Authority 昨日(6 月 10 日...
2026年高考毕业季手机推荐:... 毕业季来临,许多同学都计划换一部新手机,告别高中,迎接更自由的大学生活。面对市场上琳琅满目的机型,如...
虚拟现实耳机有助于缓解癌症疼痛 美国罗斯威尔帕克综合癌症中心的肿瘤学家发现,佩戴虚拟现实耳机能对癌症患者起到显著的止痛效果。 研究人...
荣耀Earbuds耳夹式耳机P... 现在耳夹式耳机越来越火了,我之前一直用的挂耳式耳机,这次没想到荣耀推出了一款耳夹式耳机Earbuds...