科技观察｜AI自动检测工具引关注，ChatGPT能否实现与教育共存？

封面新闻见习记者 马晓玉

就在7月9日，ChatGPT代码解释器（Code interpreter）测试版正式向所有Plus用户开放。这意味着，即使不是程序员，只需要用自然语言向ChatGPT下达指令，也可以完成需要复杂编程技术的任务。

ChatGPT自问世以来就面临诸多争议，其所带来的学术伦理问题也让这一切并不那么容易实现。如何让日渐成熟的人工智能更好地服务于学界，还有很长的路要走。

人工智能生成内容引发学术伦理问题，AI检测应运而生

基于 ChatGPT 的强大算力，使其逐渐成为学生们撰写论文的工具，并引起了学术圈的震荡。鉴于此种担忧，美国纽约、西雅图、洛杉矶等地的一些公立学校禁止学生使用ChatGPT。

许多科学家也不赞同将其以作者的称号而被署名到文章里，Science期刊的主编曾言：“我们不允许AI被列入我们发布论文的作者，并且在没有适当引用的前提下，使用AI生成的文本可能会被视为剽窃”。

Nature期刊的主编也明确说明：“任何大型语言模型（LLM）都不会被接受为研究论文的署名作者。这是因为任何作者的归属都意味着对研究工作的责任，而人工智能工具不能承担这种责任”。

与此同时，包括Turnitin、GPT Zero 和 Compilatio在内的众多AI检测软件应运而生，不少高校教师已将其运用到日常教学当中，而其中最著名的莫过于GPT Zero。

 GPT Zero

被称为最强反AI工具的GPT Zero，是今年3月由一位来自普林斯顿大学大四学生Edward Tian发布的编程，旨在帮助教育工作者检测ChatGPT生成的写作，目前还获得了融资。而Edward Tian本人也被冠以“全美学生公敌”的称号。

稍微调整就可以通过检测，AI检测工具真的有效吗？

GPT Zero称其AI文本检测器工具使用深度分析技术来识别文本的来源，检测准确率高达98%。并将不断完善，将错误率下降到低于2%。然而，其测试的准确率真的有效吗？

德国柏林技术与经济应用科学大学的媒体和计算教授黛博拉·韦伯·伍尔夫与来自多所大学的一组研究人员合作，评估了包括GPT Zero 在内的 14 种检测工具。

该团队使用 ChatGPT 生成了两份文本，每份都经过了轻微的调整，以隐藏它是人工智能生成的。其中一组是由研究人员手动编辑，他们重新排列句子并替换单词，而另一组是使用名为 Quillbot 的人工智能转述工具重写。

他们发现，尽管这些工具识别 ChatGPT 文本的准确率为 74%，但当其生成的文本经过稍微调整后，准确率降至 42%。这表明，学生只需要稍微调整人工智能生成的文章，就可以通过检测工具。

谷歌专门研究自然语言生成的高级研究科学家达芙妮·伊波利托提出了另一个担忧。“如果要在教育环境中使用自动检测系统，了解其误报率至关重要，因为错误地指责学生作弊可能会对他们的学术生涯产生可怕的后果”。

培养 AI 的高级用户，ChatGPT或可实现与教育共存

一方面是ChatGPT不断完善，并逐渐向所有用户开放，受到学生大力热捧。一方面是学术造假引发争议，而AI检测工具尚不完善。ChatGPT究竟会给人类教育带来什么？我们应该把它当作朋友拥抱，还是当作敌人排斥，通过检测让其无处遁形。

南京师范大学道德教育研究所教授冯建军教授认为，在近百年的教育发展史中，每当新技术问世，都会引发社会担忧和学术争论。ChatGPT因其智能性，人们更加担忧它是否可能取代教师，甚至取代教育。

他认为，这种担忧就如同在问：当我们有了汽车、学会了开车，是否还需要学走路？当我们有了计算机，是否还需要学数学？而这些都只是人借助的工具而已，没有改变人。

面对ChatGPT的到来，盲目排斥的态度不可取。技术进步是社会发展的必然，是不可阻挡的。未来的教育，既不全是人的，也不全是ChatGPT的，而是人+ChatGPT，因此，教育必须谋求人与ChatGPT的共生共存。

可汗学院首席学习官Kristen DiCerbo曾言，“GPT-4 正在开辟教育的新领域。很多人对这种技术的梦想已经很久了。这是变革性的，我们计划负责任地进行测试，以探索它是否可以有效地用于学习和教学。”

香港中文大学和深圳大学的一项联合研究认为，ChatGPT不仅能够为学生提供个性化和定制化的学习体验，辅助学生的备考、翻译、背诵和编程等学习活动。还能帮助教师从一些简单的基础性工作中解放出来。对于教育测评和行政管理，ChatGPT 还能起到多种辅助作用。

而面对人工智能技术应用进程中可能存在的风险和消极影响，或可通过培养学生成为 AI 的高级用户，即以信息科技课程为载体，探索学生数字素养及 AI 素养培养的有效途径。同时也要促使教师成为人机协同的调停者，担当监护职责，及时规避 AI 对尚不具备专业知识和能力的学生产生误导。

另一方面，为兼顾AI在教育领域内应用的同时，避免触及伦理道德的红线。要启动监管技术，完善 ChatGPT 应用的伦理规范风险评估和治理体系。并在某一领域内达成规则共识，包括 ChatGPT 是否应该拥有署名权以及其工作量如何评判的问题。