科技圆桌派丨AI代写学位论文或被撤销学位证 “AI笔替”的紧箍咒来了?

封面区块链 该文章已上链 >

封面新闻 2023-09-01 14:11 104239

杨丹梨鹭 封面新闻记者 边雪

8月28日,学位法草案提请十四届全国人大常委会第五次会议审议(以下简称草案)。草案共7章40条,对学位获得者盗用、冒用他人身份顶替他人取得的入学资格,利用人工智能代写学位论文,以及学位授予单位非法授予学位等行为,规定了相应的法律责任。

值得注意的是,草案中对学位获得者利用人工智能代写学位论文等行为,明确了相应的法律责任:经学位评定委员会审议决定由学位授予单位撤销学位证书。

近一年来,以ChatGPT为代表的生成式人工智能、多模态预训练大模型掀起AI热潮,惊艳世界。而AI对高等教育也进行了重构——利用AI技术以假乱真的一系列问题,正在成为全球“象牙塔”共同面临的考验。

在无人能置身事外、独善其身的当下,我国已经开始采取对策了。

有法可依后

会改变AI对高等教育的重构吗?

自从ChatGPT于2022年底推出之后,就在多个领域掀起了风暴。而这股风也刮到了“论文圈”,大量大学生使用ChatGPT“代写论文”。很多人担忧长此以往容易让学生养成惰性,形成不良学术风气,甚至诱发学术造假。

AI确实能够提高我们日常的工作效率、辅助人们更好地完成重复性的工作任务。但是,如何规范、合理地使用人工智能技术,以使其最大化地造福于我们工作和生活?在这一点上却没有明确、规范的边界定论。若草案通过,对学术界使用人工智能将产生哪些方面的利好?

“首先,可以确定该草案的制定和通过,将为进一步打击盗用、冒用、剽窃等学术不端行为,维护学术的公平公正提供了有效保障;此外,该草案能进一步规范当前学术界对人工智能工具的使用边界。”

国家优秀青年基金获得者、四川认知科学学会人工智能分会主任委员、电子科技大学生命科学与技术学院教授徐鹏作报告。

国家优秀青年基金获得者、四川认知科学学会人工智能分会主任委员、电子科技大学生命科学与技术学院教授徐鹏告诉封面新闻记者,虽然学术界目前已经注意到存在滥用人工智能技术,以进行学术论文的代写、抄袭、剽窃等不端学术行为,并且很多主流期刊注意到了这些问题,明确规定了禁止使用人工智能参与写作的论文在期刊发表,但由于对该滥用行为的违规判定、处罚强度,以及所对应的伦理等问题未能达成一致的规范标准,导致各单位在处理此类问题时产生一定分歧,这也给行政管理造成了一定困扰。“相信本草案能为处理此类人工智能技术的滥用行为提供可靠的法律依据,为人工智能技术在学术界的规范使用提供了有效法律保障。”

“草案对学术不端行为进行了明确的界定和处罚,包括人工智能代写学位论文等行为。这将有利于维护学术界的诚信和公平,提高学术水平和质量,促进科学研究的健康发展。”上海市人工智能行业协会秘书长、上海市人工智能标准化技术委员会秘书长钟俊浩在接受封面新闻专访时表示,草案并不排斥或禁止学术界合理、合法地使用AI。人工智能作为一种天然的辅助科研工具,可以极大地为学术研究提供便利和支持,例如数据分析、文献检索、分析问题、自动化完成重复性工作、处理海量等。只要遵守学术规范和道德,正确引用和注明来源,人工智能可以为学术界带来更多的创新和突破。

上海市人工智能行业协会秘书长、上海市人工智能标准化技术委员会秘书长钟俊浩

在钟俊浩看来,草案也将促进人工智能技术本身的进步和完善。面对更严格的法律规范和社会监督,人工智能领域的研究者和开发者将更加重视人工智能的可靠性、可解释性、可信赖性等方面,提高人工智能的质量和水平,避免可能造成的风险和伤害。

草案还将整顿目前学术界一些“无脑”利用大模型生成能力“捏造”论文的现象,清除一批劣质“科研成果”,从而督促学者能够更专注在创新性的研究上,从而提高研究质量。钟俊浩告诉封面新闻记者:“学位法是一个好的开端,教育部门和学校需要继续制定相关政策,规范AI在教育领域的应用,从小抓起,不单是学位论文有学术不端的风险,任何论著都有。”

学术造假更易

我们应如何正确使用AI工具?

ChatGPT“代写论文”的背后,是AI技术对整个社会的颠覆性革命,它给时代带来机遇的同时,也带来了诸多风险与挑战。

“因为现在的大模型不可避免地存在一些问题。”钟俊浩指出,有些大模型会生成一些似是而非或者荒谬的答案;对输入语句或者重复尝试的敏感性很高;每次生成的观点都不能保持一致;回答中经常过度冗长或者重复使用某些短语;还有因为大模型训练过程中普遍忽略了学术规范和道德原则,导致大模型输出内容过程中不自知地会侵犯著作权。

在教育中禁止使用人工智能既不现实,也不利于学生的健康成长。那么,使用者应当如何正确地用好AI工具?

“学生在使用AI工具时,首先需遵守学术诚信。”钟俊浩告诉封面新闻记者,AI不能替代学生完成作业或论文的创作,而应该作为一个辅助工具,协助搜索资料、进行数据分析等。学生需要对作品内容负责,要注意区分信息的真伪和来源,避免盲目地相信或转载不可靠的内容。“学习的过程比结果更重要,使用AI不能取代对知识的掌握。学生在使用AI的同时,需要确保对相关知识点有充分的理解,培养自己的创新能力和批判思维。”

在使用AI时,无论是教师还是学生应认识到:AI在学习过程中只发挥辅助作用,虽然能够帮助我们提升学习效率,但学习的真正主体还是学生本身。

“AI技术不能,也不应该替代学生,学习任务的核心应当是学生高效地掌握相关的理论知识,而不是应付差事。因此,在学生完成学习任务时,必须建立主人翁意识,做到自身思考在前,AI完善在后。”徐鹏直言,在科研教学中,需要为学生树立良好的诚信教育,建立良好的科研诚信氛围。同时,使用者在以AI作为学习工具时要注意,不能仅仅是依赖AI完成填充式的学习任务,而是利用AI进行拓展性的学习探究,以达到完善知识体系、查缺补漏的学习目的。

使用AI撰写的论文,该如何定性?钟俊浩认为,如果使用了AI生成的内容,需要注明来源。同时将人工智能生成本段内容所参考的文献纳入引用,避免将AI转化过的内容直接变为自己的成果。

在尊重版权的同时,徐鹏认为用户使用在AI相关技术及产品的使用过程中,也需要树立自我隐私信息的保护意识,严格遵守相关的使用规则,保护好个人信息,避免出现个人信息泄露等潜在信息安全隐患。

当“高等教育+AI工具”

教师应起到“把关人”的作用

2017年以来,美国、欧盟、德国、加拿大、日本、新加坡等国家或地区已陆续发布人工智能发展和治理的规范。

中国也曾于2017年7月20日印发了《新一代人工智能发展规划》,其中明确提出人工智能立法“三步走”战略目标:到2020年,实现部分领域的人工智能伦理规范和政策法规初步建立;2025年,初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力;2030年,建成更加完善的人工智能法律法规、伦理规范和政策体系。

而细分到地方层面,各地也曾对人工智能发展进行合规性约束。2022年10月,AI领域首部省级法规《上海市促进人工智能产业发展条例》施行;2022年11月,我国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》施行。

对于如何应对ChatGPT的冲击,各个学校的做法也不尽相同,一些大学院系决定对课程评估的方式进行调整。

此前,伦敦大学学院(University College London)计算机科学系的学生,可以在学期末自行选择递交论文或进行技能评估,但目前论文的选项已被取消。

英国校领导协会的秘书长杰夫·巴顿(Geoff Barton)表示:学校必须认真考虑如何负责任地使用ChatGPT,不能让其成为“允许学生作弊的许可证”。相比之下,纽约市学校的处理方式更为直接——因为担心程序会鼓励抄袭,该市的学校已经禁止在所有设备和网络上使用ChatGPT。

但是,也有部分教育工作者认为ChatGPT的出现并不意味着教育的末日,现在反而正是让人们重新思考教育的重点的好时机。在伦敦城市大学研究并教授人机交互的亚历克斯·泰勒(Alex Taylor)曾在采访中指出:“另一种思考方式不是如何去找到新的评估形式,而是思考目前我们在进修教育中的重点究竟是什么?也许这些重点本身就存在问题。”

当以ChatGPT为代表的大模型成为一种教学工具,而不是所谓的完美作弊器。这项全新的技术在教育中的作用还不明确,教师是否需要为探究这项技术的作用承担“把关人”的责任?

“教师的监管和参与很重要。”钟俊浩认为,教师自身应该了解这些AI工具的能力范围,既要看到它们在辅助教学方面的潜力,也要清楚它们的局限性,并把这些理解传达给学生。“老师可以要求学生在使用AI工具后,需要总结反思并口头报告其心得,以评估其真正的学习效果。”

徐鹏表示,ChatGPT可以作为一种高效的教学辅助工具,用于教学效率的提升,但教师需要针对ChatGPT进行合理规范的应用引导,确保学生正确使用此工具,树立学生规范使用ChatGPT的意识,防范滥用ChatGPT的行为。“老师也需要积极探索ChatGPT的正确使用场景,开发其新用途,使其更好地应用于教育事业。”

评论 22

  • 芮雯雯雯 2023-12-11 发表于四川

    反假

  • Fwb6609 2023-09-25 发表于四川

    合理利用

  • 赛金仪陇沟 2023-09-12 发表于四川

    人工客服人工客服

查看更多

去APP中参与热议吧