切实把好人工智能安全关口
创始人
2025-09-21 12:01:54
0

作者:杨广铭

如今,人工智能正深刻改变着人们的生产生活方式,也给社会安全与稳定带来了严峻挑战。人工智能技术的复杂性和不确定性带来多种风险,有可能对个人、企业和社会产生较大的负面影响。因此,推动人工智能安全体系建设,切实把好安全关口,已成为全社会亟须应对的重要课题。

近年来,我国持续加快人工智能技术领域立法步伐,出台了一系列法律法规,在加强对人工智能监管、防范人工智能风险等方面发挥了积极作用。随着人工智能技术应用的快速发展,我们需要进一步把握发展趋势和规律,加快人工智能立法进程,制定具有前瞻性的人工智能法律法规,为相关技术的研发、应用和管理提供法治保障;聚焦人工智能重点领域制定法规政策、行业规范,强化对人工智能技术滥用的法律约束,逐步完善人工智能相关法律体系,为人工智能安全治理提供法律依据。

在现有法律政策框架下,相关部门要加强对人工智能的监管,把平台、企业、开发者、使用者的法定责任贯通到底,针对算法推荐、深度合成、生成式服务,完善安全评估、备案审查、标识提示、分类分级等制度安排,推动企业建立首席安全官和算法治理机制,形成“可解释、可审计、可问责”的闭环治理格局;建立包括技术风险、数据安全风险、伦理风险、社会影响等在内的风险评估体系,对人工智能系统的潜在风险进行全面、动态的评估,以便及时发现和防范风险;进一步建立健全分类分级监管机制,根据人工智能应用的领域、风险等级、安全后果以及容错能力等,划分不同监管级别,实施差异化的监管措施,以确保人工智能技术健康、安全、可持续发展。

针对“AI造谣”“AI换脸换声电诈”等突出问题,相关部门要提升线索感知、源头封堵、溯源取证、依法处置能力,对利用人工智能进行违法犯罪的行为进行全要素研判,严格整治“数据链—算力链—工具链—资金链”黑灰产业,强化快速止付、紧急冻结、追赃挽损,坚决遏制借“智”行骗、以“技”害民;要把“以技治技、以智御智”作为建设方向,加快建设大模型,服务人工智能全领域;要打通数据壁垒、业务壁垒、系统壁垒,完善实战化实验室和联合攻关机制,以科技赋能严打违法犯罪行为。

对人工智能实行有效安全监管,离不开全社会的共同参与。相关部门要建立协同监管机制,形成监管合力;建立社会多元共治机制,鼓励行业协会、社会组织、企业等参与人工智能安全治理,着力形成政府部门、企业、社会组织和公众共同参与的协同共治新局面;要加大宣传力度,用好人工智能技术应用“正面清单、负面清单、风险提示”,营造风清气正、向上向善的网络生态。

(来源:人民公安报,作者单位:辽宁省大连市公安局网安支队)

相关内容

热门资讯

北新建材公布“一种石膏板基板裁... 天眼查APP显示,近日,北新集团建材股份有限公司申请的“一种石膏板基板裁切装置”专利公布。 摘要显示...
提升新能源送出能力!全国首座5... 今天(9月20日),全国首座500千伏全自主可控新一代变电站——西泉变电站在辽宁投运。西泉变电站首次...
“高速飞车”离我们还有多远 (来源:新安晚报) 转自:新安晚报 近日,在湖北东湖实验室,科研人员通过悬浮支撑和电磁推进的方式,成...
华能水电公布“水轮机导水机构实... 天眼查APP显示,近日,华能澜沧江水电股份有限公司申请的“水轮机导水机构实训设备”专利公布。 摘要显...
“科学与中国”青海行海西科普活... 9月19日,以首个全国科普月为契机,“科学与中国”青海行——“千名院士·千场科普”行动走进海西系列活...
陨石猎人算出“火流星”落地点,... 5月28日晚,一颗火流星划破广东茂名夜空,爆炸声震耳欲聋,瞬间亮如白昼。不少人目击了这个过程,视频被...
切实把好人工智能安全关口 作者:杨广铭 如今,人工智能正深刻改变着人们的生产生活方式,也给社会安全与稳定带来了严峻挑战。人工...
“技能天津”亮相第三届全国技能... 9月19日晚,第三届全国技能大赛在郑州启幕。中原国际会展中心正式进入比赛时刻。赛场激烈角逐的同时,各...
什么是量子科技?都有哪些应用?... 量子科技除了是我国未来产业的重要发展方向之一,也是会颠覆未来的新兴科技。近年来,我国量子科技领域创新...
OpenAI硬件,也选了中国“... 明敏 发自 凹非寺 量子位 | 公众号 QbitAI 国内知名“果链”公司 立讯精密,被曝与Open...