AI生成内容鉴别技术取得新突破
创始人
2025-04-20 04:22:08
0

人民网杭州电 (记者窦瀚洋)随着AI技术的广泛应用,如何鉴别AI生成内容成为社会关注焦点。近日,浙江西湖大学自然语言处理实验室研发的Fast—DetectGPT技术,为解决这一问题提供了新方案。该程序对GPT3.5、GPT4生成文本的识别率分别达到96%和90%,检测速度较此前技术提升340倍。该团队关于Fast—DetectGPT的私有大模型扩展Glimpse的论文已被今年4月将在新加坡举行的2025国际表征学习大会收录,Glimpse可以检测26种语言的文本,并有更高的识别准确率。

团队研发成员、西湖大学工学院副院长张岳介绍,当前AI生成内容的识别主要有监督分类器法、零样本分类器法、水印法3种方式。监督分类器法要收集大量已知数据作分类学习,对未见过的模型生成文本识别率有所下降;水印法则是在生成文本时打上“记号”,但存在标记被人为弱化或移除的风险;Fast—DetectGPT属于零样本分类法,无需依赖训练数据,适用性更广。

团队研发成员、西湖大学博士生鲍光胜介绍,所谓“生成”文本,就是机器通过上文来选择下文,选择依据是词汇、句式等在数据集中的使用概率。基于AI与人类文本生成差异的原理,AI倾向于选择高频词句,而人类写作更具多样性和逻辑泛化性,程序通过分析文本的“条件概率曲率”分布实现鉴别,“简单地说,AI更懂AI,Fast—DetectGPT‘认出’了同类。”

《 人民日报 》( 2025年04月19日 06 版)

相关内容

热门资讯

数智赋能沃野 联通助力春耕 当春耕的号角在广袤田野上吹响,中国联通将5G、物联网、大数据等新一代信息通信技术,深度融入农田管理、...
原创 西... 非洲、中东、拉美这些"全球南方"的伙伴们,提到中国基本都竖大拇指,巴不得中方的工程队赶紧把高铁、港口...
宇宙神秘蓝色闪光成因新解:黑洞... IT之家 5 月 10 日消息,在宇宙深处,存在一种神秘且能量极强的蓝色明亮宇宙爆炸现象,被称作“高...
机器人亮相京西古稻田,海淀上庄... 新京报讯(记者吴为)5月10日,海淀区上庄镇2026年“稻香花海”品牌推广季暨邻里节活动在该镇京西稻...
能源保算力、算力强能源,四部门... 算力与电力正在从传统的供需关系,演变为更深层的系统耦合。 国家能源局等四部门日前联合印发《关于促进人...
拖拉机也能无人驾驶?北京科博会... 5月9日,在第28届北京科技博览会上,海淀区上地街道携人工智能代表性企业集中亮相,打造超五百平方米沉...
山东航弘智能科技取得低噪音轴流... 国家知识产权局信息显示,山东航弘智能科技有限公司取得一项名为“一种低噪音的轴流风机”的专利,授权公告...
两台Figure AI人形机器... IT之家 5 月 9 日消息,当地时间 5 月 8 日,Figure AI 公布了一段视频:两台人形...
科技 | 全国首支交管机器人中... “我想去西湖文化广场,该怎么走?” “您可以在武林广场站乘坐地铁1号线或3号线。根据具体想去的位置,...
原创 1... 今年10000mAh容量的手机会越来越多,估计到年底之前,最少还会新增五六款,到时候各家都有相应的机...