随着AIGC（利用人工智能技术来生成各种类型的内容）创作的快速发展与迭代，网络空间变得更加丰富多元。比如，用各种模版一键上传照片，就可以生成各种有趣的小视频；看AI小猫小狗做饭，也成了近段时间的热议话题。但与此同时，AI生成的各种低质内容也铺天盖地而来，给广大用户造成信息干扰。

生成式AI降低了标题党、“擦边”内容的制作门槛，但技术的加持让AI谣言更具“说服力”、伪装性和强传播性，使得传统辟谣手段难以招架。可以说，部分生成式AI正在重塑谣言的传播生态，并严重扰乱网络环境。

去年4月，在公安部公布的10起打击整治网络谣言违法犯罪典型案例中，就有4起涉及使用AI造谣。据不完全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI造谣有关。

当AI学会“一本正经地胡说八道”后，我们该怎么办？一方面，全链条的有效治理迫在眉睫，从企业平台、监管部门、技术提供者、用户等多方面发力，方能最大程度挤压AI谣言的生存空间；另一方面，作为AI技术应用和海量信息的载体，平台方的治理效能显得尤为重要。不少专家建议把关注重点放到源头治理上来，特别是同样利用AI，在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

例如，今日头条在鼓励用户使用AI提效的基础上，也迅速升级、迭代AI模型的识别能力，收严AI内容的审核力度。识别到创作者使用AI辅助创作时，平台会打上标签，以提醒用户注意甄别。除此之外，平台还增加了后台的AI治理——持续迭代低质内容AI模型，命中模型的内容会被自动处置，从而减少或禁止对外传播。据了解，对于AI谣言治理，今日头条已构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体“防御工事”，取得了较为显著的效果。2024年拦截不实信息超500万条，处置低质AI内容93万条。

让“AI治理”跑赢“AI谣言”，我们期待各平台积极践行社会责任，不断升级“魔法”。政府机构、媒体、公众的多方协同也不可缺位，毕竟，网络谣言治理需多方握指成拳、形成合力。

作者：杨 雪

来源：科技日报