AI检测工具正在制造新的信任危机
创始人
2026-08-11 09:07:56
0次

早在ChatGPT出现之前,教育工作者和编辑们就已经在使用反抄袭工具,来核查作者的内容是否真实原创。这些工具通过将书面内容与网络数据库、学术文章等来源进行比对,检测是否存在相同的句子或段落。Turnitin等工具还会给出一个百分比,用以说明学生的写作与其他作品的重叠程度。然而,由于存在误判风险,以及难以判断内容是否属于故意抄袭,部分教育工作者已逐渐放弃使用此类工具。

如今,对"抄袭内容"的追踪已演变为一场针对AI生成内容的全面围剿。学生们争相使用ChatGPT、谷歌Gemini和微软Copilot的同时,教师们也迅速跟进,采用了各类所谓的AI检测工具。美国民主与技术中心的一项调查显示,2024年至2025年间,美国43%的六至十二年级教师定期使用AI检测工具。部分已在学习管理系统中使用Turnitin的高校发现,该服务在2023年推出AI检测功能时便已自动开启。

AI检测工具滥用引发的信任危机

网络上已经出现了相互指责"听起来像AI写的"的现象,而AI检测工具的唾手可得,更是为这场针对大语言模型的"猎巫行动"火上浇油。在一些备受关注的案例中,被指控使用AI写作已直接影响到当事人的生计和声誉。上个月,出版商Minotaur因担心作者Jerry Falade使用了AI,取消了一笔价值200万美元的出版合同,而Falade本人对此强烈否认。

法国公民Thierry Rignol去年将耶鲁大学告上法庭,起因是一名教授指控他在期末考试中使用AI作答,导致他不及格并被停课一年。该教授使用GPTZero扫描了Rignol的文章,但诉状指出,"AI监控和检测工具已知会对非母语英语使用者存在不公平偏见",而Rignol正是其中之一。今年2月,阿德菲大学一名学生在诉讼中胜诉,原因同样是教授指控其用AI撰写论文。诉状虽未说明教授使用了哪款检测工具,但阿德菲大学与Turnitin签有许可协议。

斯坦福大学2023年的一项研究发现,AI检测工具将非母语英语写作者的文章误判为AI的概率,高于母语写作者。(许多服务商仍坚称,其工具在处理非母语写作者的文本时准确率有保障。)这些工具还可能对神经多样性写作者存在偏见。

尽管Turnitin标榜极低的误报率,却仍承认其工具"未必总是准确的",不应以此对学生采取处罚措施。Grammarly也提醒用户"永远不要单独依赖AI检测结果",GPTZero则表示"没有任何AI检测工具能真正做到100%准确"。OpenAI甚至在2023年以准确率过低为由,关闭了自己的AI写作检测工具。

然而,AI写作的指控依然在网络上四处蔓延。上周,Ozzy Osbourne之子杰克在面向全平台逾350万粉丝的直播视频中,指控记者、The Verge撰稿人Kat Tenbarge在为《滚石》杂志撰写的一篇文章中使用了AI,并以AI检测工具Getsolved的检测结果作为"证据"大加炫耀。Tenbarge已通过视频和个人网站帖文予以反驳,但Osbourne至今未撤回指控,也未删除该视频,Tenbarge不得不持续应对随之而来的网络骚扰。

错误指控的案例比比皆是,涉及作家和学生等各类群体,而许多发起指控的人往往忽视了这些AI检测工具本身附带的免责声明。

未来走向

围绕AI检测工具的种种不确定性,已促使部分教育机构彻底停止使用。耶鲁大学、约翰斯·霍普金斯大学、范德堡大学、乔治城大学等高校已停用或限制使用AI检测工具。麻省理工学院也明确警告称,"AI检测工具并不可靠"。

与其依赖工具来甄别AI写作,许多学校正鼓励教育工作者重新思考教学方式。例如,芝加哥大学建议教师引导学生放慢阅读节奏、将较长的写作任务拆分,并要求学生对自己的作品进行反思。斯坦福大学建议教授考虑在课堂内进行评估,麻省理工学院则建议教授为学生留出空间,让他们在不受处罚的前提下主动说明是否在作业中使用了AI辅助。

随着AI在校内外日益普及,甄别人类写作与机器生成内容的努力也在持续升级。部分在线平台更是加剧了对AI使用的疑虑:Substack已将Pangram内置于应用程序,允许用户扫描博客文章中疑似AI生成的内容;LinkedIn则增设了"疑似AI水文"的标注按钮。由此,一个充斥着不信任的新时代已然来临——读者不断质疑所读内容是否出自AI之手,而真正的人类写作者则竭力证明自己的写作不像是机器所为。

延伸阅读

美国作家协会正在帮助写作者提前应对指控,为其颁发"人类创作"认证。此外,还有"非AI创作"和"人类书写"徽章,供用户添加到自己的在线作品中。

《纽约时报》推出了一个有趣的测验,要求读者从五组段落中选出自己更喜欢的版本,而其中一段正是由AI撰写的。

《Inside Higher Ed》采访了一些教育工作者,探讨他们如何在课堂中应对AI问题,其中一位讲师对让作业"防AI化"所需投入的成本和资源表达了担忧。

The Verge的同事Jess Weatherbed详细描述了同人小说社区正在经历的内部纷争——如何判定哪些故事是由AI生成的。

Q&A

Q1:AI检测工具的准确率到底有多高?

A:各家工具的声明不一。Turnitin称误报率低于1%,Pangram声称误报率为万分之一,GPTZero也声称误判率极低。但斯坦福大学2023年的研究显示,这些工具更容易将非母语英语写作者的内容误判为AI。Turnitin自己也承认工具"未必总是准确的",OpenAI更因准确率过低在2023年直接关闭了自家的AI写作检测工具。因此,这些工具的实际可靠性存在相当大的争议。

Q2:AI检测工具误判会带来哪些真实危害?

A:已有多起案例造成严重后果。出版商Minotaur因AI疑虑取消了一笔200万美元的书稿合同;法国学生Thierry Rignol被耶鲁大学教授用GPTZero判定作弊,遭到不及格处理并停课一年,随后提起诉讼;阿德菲大学一名学生也因同类指控告赢了学校。此外,记者Kat Tenbarge在社交媒体上遭遇公开指控,尽管已发文反驳,仍持续受到网络骚扰。

Q3:有哪些学校或机构不再使用AI检测工具?

A:耶鲁大学、约翰斯·霍普金斯大学、范德堡大学、乔治城大学等多所高校已停用或限制使用AI检测工具。麻省理工学院明确表示"AI检测工具并不可靠"。这些学校转而鼓励教师改进教学设计,例如要求学生在课堂内完成作业、对作业进行反思,或允许学生自愿说明是否借助了AI辅助,且不予处罚。

相关内容

热门资讯

我来教大家辅助器脚本!大同麻将... 我来教大家辅助器脚本!大同麻将多功能辅助器脚本,大同麻将本来是有辅助器脚本我来教大家辅助器脚本!大同...
实操分享外挂攻略!丽水都莱多功... 实操分享外挂攻略!丽水都莱多功能外挂攻略,丽水都莱其实真的有外挂攻略1、玩家可以在丽水都莱透视最简单...
重大通报透视器软件!随便字牌多... 重大通报透视器软件!随便字牌多功能透视器软件,随便字牌竟然真的是有透视器软件随便字牌能透视中分为三种...
发现一款开挂插件!小甘麻将多功... 发现一款开挂插件!小甘麻将多功能开挂插件,小甘麻将都是是真的有开挂插件1、操作简单,无需小甘麻将手机...
教程辅助辅助器技巧!闲来麻将多... 教程辅助辅助器技巧!闲来麻将多功能辅助器技巧,闲来麻将果然真的有辅助器技巧1、每一步都需要思考,不同...
必备辅助推荐开挂攻略!微乐福建... 必备辅助推荐开挂攻略!微乐福建麻将多功能开挂攻略,微乐福建麻将一直真的有开挂攻略1、微乐福建麻将辅助...
一起来探讨辅助器插件!万顺苑多... 一起来探讨辅助器插件!万顺苑多功能辅助器插件,万顺苑原来真的是有辅助器插件1、完成万顺苑有辅助插件,...
一分钟揭秘辅助器攻略!一乐浙江... 一分钟揭秘辅助器攻略!一乐浙江多功能辅助器攻略,一乐浙江都是是有辅助器攻略一乐浙江脚本下载中分为三种...
推荐一款透视器教程!海迅麻将多... 推荐一款透视器教程!海迅麻将多功能透视器教程,海迅麻将好像是有透视器教程亲,关键说明,海迅麻将透视脚...
今日公布辅助app!重庆蛮籽麻... 今日公布辅助app!重庆蛮籽麻将多功能辅助app,重庆蛮籽麻将其实是真的有辅助app1、重庆蛮籽麻将...