ChatGPT会带来何种风险？

ChatGPT（Chat Generative Pre-trained Transformer）是由美国人工智能研究实验室OpenAI推出的一款人工智能聊天机器人。作为一个大型语言模型，ChatGPT有效结合了大数据、大算力、强算法，拥有较强的语言理解和文本生成能力，一经推出便全球爆火。对教育而言，ChatGPT会成为敌人还是朋友？有观点指出，ChatGPT的诞生将极大地促进教育革新；也有观点指出，ChatGPT是对教育的一场“瘟疫”。那么，ChatGPT究竟何以赋能教育革新？ChatGPT在给教育带来变革的同时，又会带来何种风险？我们又该如何看待？近期西湖大学工学院和未来产业产业研究中心研究院成生辉老师在自己的新书《Chat GPT:智能对话开创新时代》对自己上面的问题做了深入的诠释。下文内容整理自《ChatGPT:智能对话开创新时代》一书。

ChatGPT在教育中的应用

当一个人与另一个人分享知识或能力时，这种活动通常被称为学习。不同的教育心理学家对学习的定义不同，但是大多数定义都包括知识的数量增长、信息的记忆和使用等。教育也被视为具有创造意义或抽象意义的实践活动，它将事物的各个部分相互关联并与现实世界联系起来，或者通过解释信息来理解世界。

计算机技术在教育中的应用最早可以追溯到20 世纪60 年代。当时，研究人员开始使用计算机进行基本的教学活动。到了20 世纪90 年代，随着个人电脑和互联网的普及，人们开发了更复杂的教育软件。然而，这些软件的教学形式千篇一律，无法提供个性化的指导。随着时间的推移，21 世纪的机器学习和工程学不断发展，基于AI 的教育工具被研发出来。这些工具可以根据学习者的需求提供个性化的教学，从而实现自适应学习。今天，AI 已经广泛应用于教育领域，提供个性化学习模式和提升自动化管理水平。

一些教育学家在探索科技快速变化对教育的影响，并预测AI 将成为辅助教学的重要工具。AI 的应用不仅可以以前所未有的速度免费提供高等教育服务，也可以为学习者提供课堂以外的指导。有研究者在对印度拉贾斯坦邦的一所大学中AI 应用的数据进行分析后发现，AI 的应用能够显著提高学生的学习能力。AI 在高等教育领域具有巨大的潜力似乎已成为很多人的共识。

作为一个能力强大的语言类AI，ChatGPT 的优势之一是能够为学生提供个性化的学习体验。通过交互对话模式，ChatGPT 可以了解学生的背景、兴趣和需求，能够适应不同学生的学习节奏和方式，提供相应的学习材料和解题思路，甚至可以直接提供答案。这种学习方式可以提高学生额外获取知识的效率和学习的趣味性。此外，ChatGPT 还能够帮助教师进行课堂教学的设计和优化，提供更多的教学资源和更好的教学方法，从而促进教育质量的提高。

ChatGPT 在教育中的应用主要包括以下几个方面：

智能助教：ChatGPT 可以作为智能助教，为学生提供个性化的学习指导和答疑服务。学生可以通过与ChatGPT 进行对话交流，获取相关知识和信息，并得到针对性的学习建议和反馈。这使得学生能够更加便捷地学习和有效地提高学习效率。

智能测评：ChatGPT 还可以对学生进行智能测评。学生可以通过与ChatGPT 对话交流的方式，进行知识点的测试，系统可以根据学生的答题情况，自动生成评估结果， 以帮助学生更好地了解自己的学习情况和进步方向。

个性化学习：ChatGPT 可以通过分析学生的学习情况和学习习惯，生成学习建议和计划，为学生提供具有针对性的学习资源和学习指导。同时，ChatGPT 还可以通过与学生的对话，了解学生的学习需求和兴趣爱好，为学生提供更加贴合自己需求的学习资源。

教学辅助：ChatGPT 可以作为教师教学的辅助工具，为教师提供更加便捷和高效的教学方式。教师可以通过与ChatGPT 进行对话获取教学资料和相关信息，并得到教学建议，以提高教学质量和效率。

ChatGPT 在教育领域的应用能够为学生和教师带来许多便利。此外，结合其他相关技术，如知识图谱、推荐系统等，AI 能够为学生和教师提供更加便捷和全面的教学服务。

具体来说，ChatGPT 能够有效解决学生与教师之间的沟通问题，提高学生的学习效率，减轻教师的工作量。此外，ChatGPT 能够根据学生的学习进度和习惯生成相应的学习建议和资源，使学习更加有针对性。ChatGPT 还可以帮助学生更好地了解自己的学习情况，帮助教师了解教学质量，提高学习和教学的效率。

写作业是ChatGPT 在教育应用场景中非常重要的环节。Chat- GPT 在经过大量数据训练后能够回答作业中的大部分问题。ChatGPT 在学生群体中被大范围使用，引发了大众广泛的讨论。不少教授认为，使用ChatGPT 写作业，学生不需要自己进行独立思考，只需输入问题就能获得答案，与抄袭他人作业没有什么不同。使用ChatGPT 完成论文的这种行为，则被认为是有悖于学术道德的。在想出更好的处理方法之前，多所高校和研究机构选择全面禁止学生使用ChatGPT 或其他AI 写作业或论文的行为。纽约大学就明确表示，使用AI 写作业属于作弊行为。

但是，也有人持不同的观点。一些教授认为，使用ChatGPT 能够帮助学生更快地进步。随着越来越多的高校开始使用反AI 作弊检测系统，学生不敢直接提交AI 生成的内容。他们必须主动检查内容中是否存在知识性错误，通过不断地查询资料和思考才能评估AI 生成答案的准确性，在这个过程中学生的学术水平或许能得到更大的提升。

然而，从实际的角度来看，目前使用ChatGPT 对作业或论文进行润色是一种更广泛的应用，特别是针对留学生群体来说， 他们使用非母语进行学术写作的难度很大。随着技术的发展，诞生了诸如Grammarlya 等软件，可以辅助留学生修改作业或论文中的语法错误，而ChatGPT 能够在修改语病的基础上对文章进行润色，使行文更加流畅自然。使用非母语写作的能力并不能完全代表一个人的学术能力，使用ChatGPT 帮助润色或许能够减轻他们额外学习一门语言的压力，从而更专注于学习研究专业知识，提升学习效率。

ChatGPT在教育领域的隐患与风险

虽然ChatGPT 在自然语言处理方面已经取得了很大成功， 并且在教育领域有着广泛的应用前景，但在实际的学习和教育场景中使用ChatGPT 仍然需要谨慎。因为教育是一种复杂的人类活动，需要考虑很多因素，例如学生的心理健康、人际关系、价值观培养等。而ChatGPT 只是一种基于技术的工具，它并不能完全代替人类的思考和判断。

首先，ChatGPT 在对话交流和语义理解方面仍存在一定的不确定性和误差，需要不断优化和迭代。事实证明， ChatGPT 生成的答案中会出现知识性错误。例如，当它在推特上科普航天器历史时，它被物理学家指出搞错了空间站的名字。一般来说，这是由于用于训练模型的相关领域的数据参数不够而导致的。ChatGPT 的性能提升，保证相关领域数据的准确性和完整性，需要其通过学习大量的数据来实现。

其次，使用ChatGPT 对用户的“提问能力”有较高要求。当用户输入的措辞过于模糊时，ChatGPT 会自行猜测用户的意思，最终可能给出一些有歧义的答案。学生如果对自己所问的问题没有清晰的认知，就不能精准地对ChatGPT 进行提问。

最后，ChatGPT 生成的答案可能会误导用户。ChatGPT 对输入短语的变化非常敏感，即使是同一个问题，哪怕稍微更改一下措辞，它就可能会给出不同的答案。这个现象在中文语境中尤其明显，可能是用于训练模型的中文语料数据不足，使得ChatGPT 理解同义词的能力较差。

除了ChatGPT 在技术方面存在诸多隐患，公众更担忧的是学生过度依赖AI 工具。试想，学生如果习惯性地使用ChatGPT 来完成作业，可能会逐渐丧失独立思考及学习的能力。

ChatGPT 在教育领域的前景

总的来说，ChatGPT 在教育领域具有广阔的发展前景和应用空间。随着AI 技术的不断发展和进步，ChatGPT 在教育领域的应用也将不断完善和优化，为学生和教师提供更加高效和智能的学习和教学服务。然而，推动ChatGPT 在教育领域的应用， 需要加强对其算法和数据训练的监管和规范，以确保它安全可靠。

同时，要注重培养学生的独立思考和创新能力。

我们还要意识到，教育领域需要进行更加深入和广泛的变革。传统的应试教育模式已经难以适应未来劳动者的需求和挑战。我们需要从传统的应试教育向更加注重创新和实践能力的教育模式转型，培养学生的综合素质和能力，以适应技术快速革新背景下市场对创造型人才的需求。

在教育变革的过程中，ChatGPT 可以作为一种有益的工具和资源。我们可以更好地利用ChatGPT 的优势，提高学生的学习效率和学习体验，同时为教师提供更多元化的教学资源和手段。我们可以将ChatGPT 等生成式AI 与教育教学实践相结合，共同推动教育的变革和发展。