打败AI谣言亟待“魔法”升级
创始人
2025-02-26 20:20:25
0次

随着AIGC(利用人工智能技术来生成各种类型的内容)创作的快速发展与迭代,网络空间变得更加丰富多元。比如,用各种模版一键上传照片,就可以生成各种有趣的小视频;看AI小猫小狗做饭,也成了近段时间的热议话题。但与此同时,AI生成的各种低质内容也铺天盖地而来,给广大用户造成信息干扰。

生成式AI降低了标题党、“擦边”内容的制作门槛,但技术的加持让AI谣言更具“说服力”、伪装性和强传播性,使得传统辟谣手段难以招架。可以说,部分生成式AI正在重塑谣言的传播生态,并严重扰乱网络环境。

去年4月,在公安部公布的10起打击整治网络谣言违法犯罪典型案例中,就有4起涉及使用AI造谣。据不完全统计,2024年搜索热度较高的50个国内AI风险相关舆情案例中,超1/5与AI造谣有关。

当AI学会“一本正经地胡说八道”后,我们该怎么办?一方面,全链条的有效治理迫在眉睫,从企业平台、监管部门、技术提供者、用户等多方面发力,方能最大程度挤压AI谣言的生存空间;另一方面,作为AI技术应用和海量信息的载体,平台方的治理效能显得尤为重要。不少专家建议把关注重点放到源头治理上来,特别是同样利用AI,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

例如,今日头条在鼓励用户使用AI提效的基础上,也迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。识别到创作者使用AI辅助创作时,平台会打上标签,以提醒用户注意甄别。除此之外,平台还增加了后台的AI治理——持续迭代低质内容AI模型,命中模型的内容会被自动处置,从而减少或禁止对外传播。据了解,对于AI谣言治理,今日头条已构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体“防御工事”,取得了较为显著的效果。2024年拦截不实信息超500万条,处置低质AI内容93万条。

让“AI治理”跑赢“AI谣言”,我们期待各平台积极践行社会责任,不断升级“魔法”。政府机构、媒体、公众的多方协同也不可缺位,毕竟,网络谣言治理需多方握指成拳、形成合力。

作者:杨 雪

来源:科技日报

相关内容

热门资讯

热点推荐辅助器!龙鼎大厅辅助器... 热点推荐辅助器!龙鼎大厅辅助器多功能AI软件,龙鼎大厅一贯真的是有辅助器软件进入游戏-大厅左侧-新手...
热点推荐透视器!龙鼎大厅透视器... 热点推荐透视器!龙鼎大厅透视器多功能AI软件,龙鼎大厅本来真的是有透视器软件暗藏猫腻,小编详细说明龙...
重大消息透视器!娱乐麻将透视器... 重大消息透视器!娱乐麻将透视器多功能AI工具,娱乐麻将真是真的有透视器工具1、不需要AI权限,帮助你...
玩家必用透视器!忠乐大厅透视器... 玩家必用透视器!忠乐大厅透视器多功能AI技巧,忠乐大厅切实是真的有透视器技巧1、进入到忠乐大厅是否有...
今日公布开挂!讲排场大厅开挂多... 今日公布开挂!讲排场大厅开挂多功能AI软件,讲排场大厅都是存在有开挂软件1、金币登录送、破产送、升级...
我来教大家透视器!四通娱乐3透... 我来教大家透视器!四通娱乐3透视器多功能AIapp,四通娱乐3真是真的是有透视器app进入游戏-大厅...
程序员教你透视挂!圣游大厅透视... 程序员教你透视挂!圣游大厅透视挂多功能AI教程,圣游大厅本来是真的有透视挂教程1、每一步都需要思考,...
一分钟了解开挂!红莲开挂多功能... 一分钟了解开挂!红莲开挂多功能AI脚本,红莲果然是有开挂脚本1、完成红莲有辅助插件,帮助玩家取得所有...
今日重大通报透视挂!魔龙透视挂... 您好,魔龙这款游戏可以开挂的,确实是有挂的,需要了解加去威信【136704302】很多玩家在这款游戏...
每日必看推荐开挂!九酷众娱开挂... 每日必看推荐开挂!九酷众娱开挂多功能AIapp,九酷众娱其实真的有开挂app1、操作简单,无需九酷众...