AI生成内容鉴别技术取得新突破
创始人
2025-04-20 04:22:08
0

人民网杭州电 (记者窦瀚洋)随着AI技术的广泛应用,如何鉴别AI生成内容成为社会关注焦点。近日,浙江西湖大学自然语言处理实验室研发的Fast—DetectGPT技术,为解决这一问题提供了新方案。该程序对GPT3.5、GPT4生成文本的识别率分别达到96%和90%,检测速度较此前技术提升340倍。该团队关于Fast—DetectGPT的私有大模型扩展Glimpse的论文已被今年4月将在新加坡举行的2025国际表征学习大会收录,Glimpse可以检测26种语言的文本,并有更高的识别准确率。

团队研发成员、西湖大学工学院副院长张岳介绍,当前AI生成内容的识别主要有监督分类器法、零样本分类器法、水印法3种方式。监督分类器法要收集大量已知数据作分类学习,对未见过的模型生成文本识别率有所下降;水印法则是在生成文本时打上“记号”,但存在标记被人为弱化或移除的风险;Fast—DetectGPT属于零样本分类法,无需依赖训练数据,适用性更广。

团队研发成员、西湖大学博士生鲍光胜介绍,所谓“生成”文本,就是机器通过上文来选择下文,选择依据是词汇、句式等在数据集中的使用概率。基于AI与人类文本生成差异的原理,AI倾向于选择高频词句,而人类写作更具多样性和逻辑泛化性,程序通过分析文本的“条件概率曲率”分布实现鉴别,“简单地说,AI更懂AI,Fast—DetectGPT‘认出’了同类。”

《 人民日报 》( 2025年04月19日 06 版)

相关内容

热门资讯

为微观世界拍高清“纪录片”,“... 不久前,在位于广东东莞的中国散裂中子源,我国首台高能直接几何非弹性中子散射飞行时间谱仪正式完成验收并...
原创 任... 现在全球范围内,真正在人工智能领域有实力进行全方位竞争的,说白了主要就是两个国家:美国和中国。 这话...
AI合成6只“死螃蟹”骗退款被... 眼下,AI技术正赋能千行百业,为人们的工作、学习、生活带来很多便利。但最近,一些人竟然用AI制作虚假...
焦点科技副总裁李丽洁:真正具有... 来源:21世纪经济报道 21世纪经济报道记者 董静怡 广州报道 12月5日,由南方财经全媒体集团指导...
顶级智脑汇聚南京,揭秘未来十年... 秋末,南京城五彩斑斓,处处都是好风景。12月4日—6日,备受业界瞩目的2025第四届未来交通产业发展...
第十八章:爱!或无需表白 话说悟空见金箍棒开始玩"爱的魔力转圈圈",赶紧掐了个避风诀。这避风诀是菩提祖师VIP亲传,效果杠杠的...
方大集团北方重工:四台料场设备... (来源:沈阳日报) 转自:沈阳日报 本报讯(特约记者刘国栋)12月5日,从方大集团北方重工传来喜讯,...
豆包手机助手调整部分AI能力 ... 12月5日,豆包手机助手发布《关于调整AI操作手机能力的说明》,称计划在接下来的一段时间,在部分场景...
石岐街道第二届“工行杯”中小学... 初冬暖阳映照石岐中学操场,科技创新的热潮在此涌动。12月6日,石岐街道第二届“工行杯”中小学科技节暨...
偏微分方程驱动AI创新!多个高... 为更好开展偏微分方程理论与应用领域研究进展的学术盘点,有效增强国内外偏微分方程及相关领域的学术交流与...