注意警惕！GPT 检测器也会造假

生成式人工智能的发展像极了脱缰的野马，若光顾着跑，迟早会把马术不精的人狠狠地摔下来。

2022 年 11 月 30 日，人工智能对话聊天机器人 ChatGPT 正式推出，迅速在社交媒体上走红，短短 5 天，注册用户数就超过 100 万，两个月，ChatGPT 的月活用户已突破 1 亿，成为史上增长最快的消费者用户。

面对生成式人工智能的来势汹汹，显然并不是所有人都已经准备好了。

【资料图】

今年 1 月初，纽约市教育部就宣布禁止学生在其学校的设备和网络上使用 ChatGPT，以预防学生的作弊行为。法国巴黎政治学院（Sciences Po）也在 1 月末正式发出通知，禁止各校区全体学生及教职工利用 ChatGPT 完成教学任务，成为欧洲首个对 ChatGPT 实行「全面封禁」的学校。

随着时间来到 7 月份，在生成式人工智能百花齐放，百家争鸣的大环境下，国外一些教育界人士开始顺应时代的大潮，主动拥抱生成式人工智能。

英国 24 所罗素集团研究型大学的校长近日联合制定并签署了一项准则，旨在向学生和教职员工明确指出哪些地方不适合使用生成式人工智能，支持他们作出明智的决策，并授权他们正确使用这些工具，并在必要时承认其使用。

如今在他们看来，只要正确使用生成式人工智能，这对教育是大有裨益的，不过，在这之前，或许他们还得警惕一些「小麻烦」。

在教育领域，将 ChatGPT 应用于学生作业的完成已经不是新鲜事了，许多教师也开始将人工智能检测视为：「阻止 21 世纪作弊形式的关键对策」

但研究表明，一些人工智能检测器存在着歧视和误导的情况。

近期，斯坦福大学生生物医学数据科学助理教授 James Zou 领导一众科学家，使用 7 个流行的 GPT 检测器评估了 91 篇由非英语母语人士撰写的托福（鉴定非英语为母语者的英语能力考试）作文。

研究发现，在所有 7 个 GPT 检测器中，由非英语母语人士撰写的超过一半的作文被错误地标记为由人工智能生成，甚至有一个检测器错误地将近 98% 的作文标注为由人工智能生成。

而将以英语为母语的八年级学生写的作文经过检测后发现，同样的人工智能检测器将超过 90% 的作文标注为由人类生成。

在追溯这种带有内在偏见的歧视时，研究人员发现，生成式人工智能在经过大规模的预训练后可以生成低复杂度的文本，这也就意味着如果人类在写作中以熟悉的模式使用大量常用单词，那么就会极大增加被标注为由人工智能生成的风险，而非英语母语人士之所以面临的风险更大，正是因为他们更有可能使用更简单的词汇。

这种歧视所带来的影响是值得关注的。研究人员也警告道：「GPT 检测器对非母语作家的影响是严重的」同时其还补充道：「在教育领域，可以说是 GPT 检测器最重要的市场，非母语学生面临更多被虚假指控作弊的风险，这可能不利于学生的学术生涯和心理健康。」

因此，在思考生成式人工智能是教育的「良药」还是「毒药」之前，或许还得先解决这些「小麻烦」。