打败AI谣言亟待“魔法”升级
创始人
2025-02-26 20:20:25
0

随着AIGC(利用人工智能技术来生成各种类型的内容)创作的快速发展与迭代,网络空间变得更加丰富多元。比如,用各种模版一键上传照片,就可以生成各种有趣的小视频;看AI小猫小狗做饭,也成了近段时间的热议话题。但与此同时,AI生成的各种低质内容也铺天盖地而来,给广大用户造成信息干扰。

生成式AI降低了标题党、“擦边”内容的制作门槛,但技术的加持让AI谣言更具“说服力”、伪装性和强传播性,使得传统辟谣手段难以招架。可以说,部分生成式AI正在重塑谣言的传播生态,并严重扰乱网络环境。

去年4月,在公安部公布的10起打击整治网络谣言违法犯罪典型案例中,就有4起涉及使用AI造谣。据不完全统计,2024年搜索热度较高的50个国内AI风险相关舆情案例中,超1/5与AI造谣有关。

当AI学会“一本正经地胡说八道”后,我们该怎么办?一方面,全链条的有效治理迫在眉睫,从企业平台、监管部门、技术提供者、用户等多方面发力,方能最大程度挤压AI谣言的生存空间;另一方面,作为AI技术应用和海量信息的载体,平台方的治理效能显得尤为重要。不少专家建议把关注重点放到源头治理上来,特别是同样利用AI,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

例如,今日头条在鼓励用户使用AI提效的基础上,也迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。识别到创作者使用AI辅助创作时,平台会打上标签,以提醒用户注意甄别。除此之外,平台还增加了后台的AI治理——持续迭代低质内容AI模型,命中模型的内容会被自动处置,从而减少或禁止对外传播。据了解,对于AI谣言治理,今日头条已构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体“防御工事”,取得了较为显著的效果。2024年拦截不实信息超500万条,处置低质AI内容93万条。

让“AI治理”跑赢“AI谣言”,我们期待各平台积极践行社会责任,不断升级“魔法”。政府机构、媒体、公众的多方协同也不可缺位,毕竟,网络谣言治理需多方握指成拳、形成合力。

作者:杨 雪

来源:科技日报

相关内容

热门资讯

欧盟公布最终版《通用人工智能行... 新华社布鲁塞尔7月10日电(记者张兆卿)欧盟委员会10日公布《通用人工智能行为准则》最终版本,旨在帮...
【世界高铁大会】手绘长图|创新... 编者按: 科技兴则民族兴,科技强则国家强。近年来,中国铁路全面推进科技创新,加快数字铁路建设,向“新...
“不负责任、危险且反犹”,马斯... 参考消息网7月11日报道据法新社7月9日报道,埃隆·马斯克的初创公司xAI开发的人工智能(AI)助手...
华人接管硅谷!Grok4发布会... 21世纪经济报道记者 董静怡 上海报道 当地时间7月9日,埃隆·马斯克(Elon Musk)的xAI...
我国科研人员在南海北部成功开展... 7月9日,智能海水取样无人机出发执行任务。 7月9日,珠海云洲L25C调测无人艇在南海进行科考试验...
原创 中... 1970年,中国成功发射了首颗人造地球卫星——“东方红一号”。这次航天成就标志着我国在太空探索领域的...
我国科学家成功将从头合成的大尺... 新华社天津7月10日电(记者张建新、栗雅婷)近日,我国科研人员将从头合成组装的兆碱基尺度人类基因组D...
中桥科技取得电磁阀线圈绕线装置... 金融界2025年7月11日消息,国家知识产权局信息显示,惠州市中桥科技有限公司取得一项名为“一种电磁...
智启津门·数聚上合 | 数字创... 简介:数字浪潮奔涌的当下,各行各业在数字化转型的赛道上竞相疾驰。近年来,许多企业在互联网设计服务赛道...
打破电域限制!中国团队推出全球... 7月10日消息,据scitechdaily报道,由华中科技大学、上海交通大学、电子科技大学和南开大学...