AI生成内容鉴别技术取得新突破
创始人
2025-04-20 04:22:08
0

人民网杭州电 (记者窦瀚洋)随着AI技术的广泛应用,如何鉴别AI生成内容成为社会关注焦点。近日,浙江西湖大学自然语言处理实验室研发的Fast—DetectGPT技术,为解决这一问题提供了新方案。该程序对GPT3.5、GPT4生成文本的识别率分别达到96%和90%,检测速度较此前技术提升340倍。该团队关于Fast—DetectGPT的私有大模型扩展Glimpse的论文已被今年4月将在新加坡举行的2025国际表征学习大会收录,Glimpse可以检测26种语言的文本,并有更高的识别准确率。

团队研发成员、西湖大学工学院副院长张岳介绍,当前AI生成内容的识别主要有监督分类器法、零样本分类器法、水印法3种方式。监督分类器法要收集大量已知数据作分类学习,对未见过的模型生成文本识别率有所下降;水印法则是在生成文本时打上“记号”,但存在标记被人为弱化或移除的风险;Fast—DetectGPT属于零样本分类法,无需依赖训练数据,适用性更广。

团队研发成员、西湖大学博士生鲍光胜介绍,所谓“生成”文本,就是机器通过上文来选择下文,选择依据是词汇、句式等在数据集中的使用概率。基于AI与人类文本生成差异的原理,AI倾向于选择高频词句,而人类写作更具多样性和逻辑泛化性,程序通过分析文本的“条件概率曲率”分布实现鉴别,“简单地说,AI更懂AI,Fast—DetectGPT‘认出’了同类。”

《 人民日报 》( 2025年04月19日 06 版)

相关内容

热门资讯

路径出现罕见转折!台风“沙德尔... 今年第18号台风“沙德尔”,预计将于28日凌晨至中午在浙江三门到福建霞浦一带沿海登陆(33-42米/...
如何给AI支付立规矩(有问有答... “让AI帮点奶茶”“让AI帮打车”“让AI完成购物下单”……从扫码、刷脸、碰一碰,到智能体辅助支付,...
追觅旗下品牌,MOVA澳洲加速... 去年5月,MOVA通过JB Hi-Fi在澳洲市场亮相,让这家成立仅一年多的中国智能家居品牌开始受到关...
临“风”而守,顶格守护!鹿城筑... 强台风“沙德尔”正加速逼近浙闽沿海,温州市区台风预警信号已升级为红色,防台风应急响应提升至Ⅰ级,风雨...
香港第一期生成式人工智能沙盒+... 来源:上海证券报·中国证券网 上证报中国证券网讯(记者 何漪)8月27日,香港金管局、香港证监会、香...
实验室里无小事 | 实验室里的... 实验室是科学研究 与人才培养的重要场所 每天产生的 各类化学、生物废物 如果管理不当 不仅污染环境 ...
视频丨从争金牌到争订单 人形机... 第二届世界人形机器人运动会昨天落下帷幕。五天的激烈比拼,2000多台机器人的同场竞技,赛场背后,竞赛...
成果推介|2026年农业科技成... 为进一步推动科技创新和产业创新深度融合,扎实推进农业科技成果供需精准对接,培育农业新质生产力。科特派...
给每头猪一个“数字身份”——数... 8月27日,记者走进2026数博会W2数据供给馆,被一个展位的沙盘吸引住了目光。沙盘里有猪、肉牛、鸡...
原创 中... 试想这样一个场景:2030年前后,中国的航天员踩在月球表面的灰尘上,摆了个极帅的造型,用手持设备拍下...