打败AI谣言亟待“魔法”升级
创始人
2025-02-26 20:20:25
0

随着AIGC(利用人工智能技术来生成各种类型的内容)创作的快速发展与迭代,网络空间变得更加丰富多元。比如,用各种模版一键上传照片,就可以生成各种有趣的小视频;看AI小猫小狗做饭,也成了近段时间的热议话题。但与此同时,AI生成的各种低质内容也铺天盖地而来,给广大用户造成信息干扰。

生成式AI降低了标题党、“擦边”内容的制作门槛,但技术的加持让AI谣言更具“说服力”、伪装性和强传播性,使得传统辟谣手段难以招架。可以说,部分生成式AI正在重塑谣言的传播生态,并严重扰乱网络环境。

去年4月,在公安部公布的10起打击整治网络谣言违法犯罪典型案例中,就有4起涉及使用AI造谣。据不完全统计,2024年搜索热度较高的50个国内AI风险相关舆情案例中,超1/5与AI造谣有关。

当AI学会“一本正经地胡说八道”后,我们该怎么办?一方面,全链条的有效治理迫在眉睫,从企业平台、监管部门、技术提供者、用户等多方面发力,方能最大程度挤压AI谣言的生存空间;另一方面,作为AI技术应用和海量信息的载体,平台方的治理效能显得尤为重要。不少专家建议把关注重点放到源头治理上来,特别是同样利用AI,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

例如,今日头条在鼓励用户使用AI提效的基础上,也迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。识别到创作者使用AI辅助创作时,平台会打上标签,以提醒用户注意甄别。除此之外,平台还增加了后台的AI治理——持续迭代低质内容AI模型,命中模型的内容会被自动处置,从而减少或禁止对外传播。据了解,对于AI谣言治理,今日头条已构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体“防御工事”,取得了较为显著的效果。2024年拦截不实信息超500万条,处置低质AI内容93万条。

让“AI治理”跑赢“AI谣言”,我们期待各平台积极践行社会责任,不断升级“魔法”。政府机构、媒体、公众的多方协同也不可缺位,毕竟,网络谣言治理需多方握指成拳、形成合力。

作者:杨 雪

来源:科技日报

相关内容

热门资讯

小丝网织出大产业 河北安平特色... 人民网石家庄7月11日电 (记者林福盛)近日,在河北省安平县鑫河金属丝网有限公司生产车间,一台台丝网...
香港财政司司长鼓励韩国科企到港... 香港特区政府财政司司长陈茂波10日继续在韩国首尔的访问行程。他到访韩国领先创科企业NAVER,观看该...
探索浩瀚宇宙,助力深空探测科创... 从“神舟”飞天,到“嫦娥”奔月,再到“天问”探火、“羲和”逐日,中国人探索浩瀚宇宙的脚步从未停止。 ...
古老儒学在文明对话中闪耀当代 7月9日,与会嘉宾出席第十一届尼山世界文明论坛。新华社记者 朱峥 摄 新华社济南7月10日电 题:古...
数字课堂跨越国界,这堂“云课”... 新华社天津7月10日电(记者尹思源)5G物理网络搭建区、5G应用综合实训区、空中课堂……位于莫斯科国...
欧盟公布最终版《通用人工智能行... 新华社布鲁塞尔7月10日电(记者张兆卿)欧盟委员会10日公布《通用人工智能行为准则》最终版本,旨在帮...
【世界高铁大会】手绘长图|创新... 编者按: 科技兴则民族兴,科技强则国家强。近年来,中国铁路全面推进科技创新,加快数字铁路建设,向“新...
“不负责任、危险且反犹”,马斯... 参考消息网7月11日报道据法新社7月9日报道,埃隆·马斯克的初创公司xAI开发的人工智能(AI)助手...
华人接管硅谷!Grok4发布会... 21世纪经济报道记者 董静怡 上海报道 当地时间7月9日,埃隆·马斯克(Elon Musk)的xAI...
我国科研人员在南海北部成功开展... 7月9日,智能海水取样无人机出发执行任务。 7月9日,珠海云洲L25C调测无人艇在南海进行科考试验...