2024年的高校毕业季即将到来,北京青年报记者注意到,相比往年,今年不少国内高校先后发文,就学生如何在毕业论文中使用生成式AI、AI代写在论文中的比例等问题作出规范。有不少学生表示,他们在论文创作中会使用AI来搜集文献、处理数据、书写代码等。也有学生称,AI写出的内容有时会出现错误。
人工智能领域专家表示,AI技术给高等教育人才培养带来的复杂性已是一个不能回避的现实。他鼓励大学生使用AI辅助课程学习,但AI得出的成果应是学生经过思考和主动学习的结果,不能是简单的“复制粘贴”。“面对新技术的冲击,高校应加强对学位论文、毕业设计等的技术监管。人工智能技术的辅助,不能替代教育过程中学生的能力建设。”
不少学生借助AI为毕业论文搜集文献、处理数据 但也有人发现部分AI生成内容是错误的
今年5月,小雨(化名)提交了她的毕业论文。与往年的毕业生不同的是,她不仅在老师的指导下进行了提出选题、文献搜集、数据处理和观点论证等工作,还找生成式人工智能(AI)作为她的“研究助手”。
小雨告诉北青报记者:“我比较擅长问卷和访谈的处理,但把这些大量的数据变成有逻辑的论文,需要很大的思考量。”
为了解决这个问题,她在初步写作论文大纲后使用了ChatGPT等模型,“在我觉得大脑‘短路’的时候,我就会把自己的想法用‘大白话’讲给AI,再让AI来完善我的论证逻辑,并且通过我的指令一次次完善结果,经过人工修改后写进论文。”
小山(化名)也在论文写作中使用了AI。她告诉北青报记者,“有一些话怎么说都言不达意,我就会把自己的句子和我想补充的含义告诉AI,用AI来架构语句。”除此之外,AI还帮助小山进行了文献搜集工作,“AI检索获取信息的能力很强,还可以帮我翻译。在论文写作中,我就把自己的相关论题发给AI,让它帮我推荐相关的英文文献,然后我再按它的推荐去阅读和思考。这就节省了我在各种学术网站查找文献的时间。”
多名学生在接受北青报记者采访时表示,他们会利用AI协助来检索研究文献。但有学生发现,AI检索到的结果有时并不靠谱。
小雨就发现,“我用中文向AI工具询问某名专家写作的《传播史》的相关内容,结果却得到了一段人工智能自己写出来的文章。AI划出来的历史各阶段、相关主要内容和特征,看起来是在综合各种教材和网络信息的内容,但并不是我想要检索的作者的观点。”
小雨和小山表示,他们在使用AI后,都不敢完全信赖AI这个“帮手”。小山说,他会把AI生成的内容再修改一遍,“尽管它能很快给我一个结果,但许多用语不太自然、比较生硬,还可能有一些错误。我需要重新把它们修改一遍,改一下语序、修改一些用词。只能说它能够给我一定的启发,但作用有限。”
阿成(化名)就读于某大学自动化专业。阿成介绍说:“我的毕业设计要利用所学的知识给出一个设计方案,我会让人工智能帮我分析网上的一些计算机代码,了解每段内容的功能、意义,AI就像我的老师一样。”在这个过程中,阿成发现他也会遇到AI的“误导”:“AI生成的代码可能会有一些错误,但在它的基础上再修改,会比我‘从头学起’要容易很多。”
阿成坦言:“如果能通过自己的学习,去掌握编程语言,肯定对我以后的学习更有益处。但AI帮我编程以后,我可能就不想再做额外的记忆了,只想让AI代劳。”完成毕业设计之后,他也开始反思这一点,“回想了一下自己哪些地方太过依赖人工智能,然后刻意练习自己在这方面的能力。”
有高校学生发布正确使用人工智能倡议 多所高校出台规定规范学生毕业论文中使用AI
北青报记者了解到,今年一些中国传媒大学的学生在学院老师的支持下,起草了一份“大学生正确使用生成式人工智能倡议”,倡议中提到:“理智并清醒地认识生成式人工智能的局限性,不盲目崇拜和过度依赖;主动培养自身的鉴别能力和媒介素养,在使用过程中对于其可能会生成的不良信息、虚假信息、违法信息等,能够识别并正确处理。”
正攻读文化产业方向博士学位的胥迪是这份倡议的起草人之一,他向北青报记者表示,“去年以来,像ChatGPT这样的生成式AI模型受到了很多大学生的关注,无论是文科、理科还是工科生,都在普遍使用这个工具。但同时,我们也发现了其中的一些风险和不足。”
胥迪举例说,“比如在学术写作中,生成式AI可能会捏造一些实际上不存在的参考文献,这就违背了学术规范,无法保证内容的准确度;从本质上来说,许多生成式AI是根据语言上下文概率进行输出的模型,这可能抹杀使用者的创新性,忽视小概率的事件和异常的情况。”如果盲目应用,可能造成写出来的论文存在严重问题。这也是胥迪起草倡议,希望学生们妥善使用AI的原因。
北青报记者发现,今年以来,全国多所高校试行或出台相关规定或办法,对毕业设计(论文)中的人工智能生成内容占比进行检测。
4月10日,湖北大学本科生院发布通知,宣布在本科毕业学生毕业论文审核过程中试行加入对文章使用生成式AI风险情况的检测,如发现该论文检测结果为“AI代写高风险”,教师应指导学生进行修改。
4月28日,福州大学教务处也发布通知,决定对2024届本科生毕业设计(论文)进行AI代写的检测,检测结果将作为成绩评定和优秀毕业论文评选的参考依据。通知中介绍,此举是为了“进一步加强学术道德和学术诚信教育,营造良好的学术生态,规范学生科学合理使用生成式AI技术,杜绝人工智能代写、剽窃、伪造等学术不端行为,加强对毕业设计(论文)质量监控与管理”。
此外,一些学校提出学生应在毕业论文中主动披露人工智能使用情况、提醒学生规范合理应用。
今年中国传媒大学本科生院下发了《关于加强2024年毕业论文(设计)中规范使用人工智能管理的通知》。随后,该校多个学院出台了规定细则,其中,该校继续教育学院要求学生须明确披露是否使用生成式人工智能,“如使用,须述使用方式、细节,包括模型/软件/工具名称、版本及使用时间。涉及事实和观点引证的辅助生成内容,须明确说明其生成过程,并同时在毕业论文(设计)相应位置具体标注,确保真实准确和尊重他人知识产权。”
一些高校还确定了AI的合理使用情形、超标后的复检办法等执行细节。2024年1月,江西应用科技学院发布通知,对学生使用AI协作工具的情形进行了规范。该校称:“人工智能工具仅可用于文献检索、数据处理等辅助工作,严禁直接应用于论文撰写。学校倡导合理使用新工具、新技术,但要求学生通过自主思考、理解知识并自己动手实践,发挥创造力。”
天津科技大学教务处则发文规定,若本科生毕业论文中生成式AI检测的结果超过40%,学院将向学生发出警示,并要求其自查自纠;学生在收到警示后,需认真修改,由学院统一在相关平台检测通道进行复检。该校还表示,将加强学术诚信教育,并提醒学生严格遵守学术规范和学术道德,避免过度依赖智能生成内容。
专家:鼓励创新尝试 但学生应了解人工智能的规律和使用伦理
中国传媒大学文化产业管理学院执行院长、长期关注数字智能和文化科技融合领域研究的张洪生教授告诉北青报记者,“人工智能技术对未来的人才培养将会产生重大的影响,给高等教育人才培养带来了更大的复杂性,这是一个不能回避的现实。”
张洪生注意到,自去年以来,许多大学生开始使用人工智能辅助课程学习,“我很鼓励学生们进行这种创新和尝试,但一定要有自己的独创性,不能直接对生成式人工智能进行照搬、‘复制粘贴’。”
张洪生认为,学生在人工智能辅助学习的过程中应当追求“可解释性”,“比如用生成式人工智能产出的文字、图片、视频等成果,不能是学生任凭AI随机生成的东西,而是学生经过思考和主动学习的结果。尽管有人工智能工具的辅助,学生应当能够明确地阐释自己产出这一内容的问题意识、思想内涵,要体现自己的主观能动性。”
同时,就生成式人工智能辅助学习的现状,张洪生评论道:“面对新技术的冲击,对学位论文、毕业设计等的技术监管应当加强。因为人工智能技术的辅助,不能替代教育过程中学生的能力建设,比如基本的科研训练、文献检索分析、思想逻辑能力等。”他特别提醒广大大学生,“应当了解人工智能技术的规律和使用伦理,而不能投机取巧、产生偷懒心理,更不能出现学术造假、欺骗行为。”
张洪生介绍,目前部分高校已经开设各类生成式AI相关的工作坊、研讨会,提升学生对人工智能技术规律和应用手段的认识。他认为教育者不宜对新技术产生抗拒心理:“恰恰是在人工智能带来巨大影响的背景下,教育者更应积极了解人工智能技术、使之更好辅助教学。面对新变化,这对师生来说都是一个逐渐探索的过程,因此也需要教学相长、共同进步。”