AI造成幻觉？剑桥辞典2023年度字选出：意指「幻觉」

2023-11-29 05:11

生成式AI出头的一年

《剑桥词典》出版经理温达琳（Wendalyn Nichols）指出，该机构的重要任务之一，就是为英语学习者提供关键讯息。「Hallucinate」并非新造，它是动词，原意指「看到幻觉」、「产生幻觉」、「出现幻觉」之意，名词状态为「hallucination」，意指「幻觉」、「幻术」。

《剑桥词典》出版社进一步思考「为什么会产生幻觉？」，注意到，2023年「生成式AI（Generative AI）」大行其道，Open AI ChatGPT、Microsoft Bing 和Google Bard纷纷出头，并引发大众热烈讨论。

不论是哪家厂商推出的生成式AI品牌，皆依赖海量的文本数据，机器经反覆训练，使其知道已存在的现象，像是新闻、书籍、影音等，从而拥有识别、汇总、翻译、预测、生成文字和其他内容的能力。

「生成式AI」让人领略到科技强大快速的能力，也让多数人认为，只要输入问题，「生成式AI」就是万事通、什么都答得出来，许多行业与人力面临被取代的危机。

对此，温达琳表示，生成式AI的隐忧在于「假讯息」的产生。

就算机器透过学习海量知识而有问答能力，但它最终倚靠的仍是由人类写成的资讯，机器无辨别讯息真伪的能力，仅是将资料库搜集到的内容，在其认为适合的时机呈现给使用者。

AI科技依赖海量文本数据，经反覆训练，产生回答问题的能力。（图）

「这让我们认为，面对AI提供的假讯息，是在提醒人类，使用工具时仍要带着批判性思考的能力，不是单纯的全盘照收，乃要有查证辨别的能力。」

AI造成的幻觉经验

目前AI技术造成的影响力不只是资讯的检索与获得，放眼全球，科技、医疗、交通、金融和教育领域，都已导入AI多年，也都面临浅在影响。

这让《剑桥词典》出版社决定为「hallucination」加上最新释义：
When an artificial intelligence hallucinates, it produces false information.
当人工智慧（AI）产生错谬讯息，就以「hallucination」称之，因为「假讯息」可等同于「幻术」、「虚幻」，让人无法掌握真实事物。

练习批判性思考，多作查验

针对2023年《剑桥词典》年度字，台北基du书院校长车龙渊博士回应，当代生活确实与科技、网路息息相关，例如，曾有一份国内学者研究指出，每人每天的上网时间至少为3小时起跳，多者甚至达到11小时之久。

面对网路世界，如同「hallucination」在公告获选时，正提醒使用者要有辨别查证之能力，车龙渊建议，人人应都要养成「批判性思考（Critical thinking）」的能力，建议可从「辩证法」和「反证法」两种开始练习。

「批判性思考」领域广袤，是运用系统性方法使人产生质疑和理性思考的能力。

其中，「辩证法」帮助人深入分析问题的前提、及所处状况，然后透过权衡各种对立的方案，来找到新方案的方法。

「反证法」则将眼前所有方案中的问题、缺点及矛盾全部列举出，并予以否定，使用排除法找到其他方案的合理性。

以学生族群为例，中学、大学阶段，通常是最大量也最熟稔使用各种科技的阶段，甚或有时会运用在写作业、交报告，不免会有学子认为，上网用关键字搜寻资料、剪下贴上后，就能写成「看似」内容丰富、层次井然的大量文字，但，速成的取巧，一则让人失去学习真谛，二则可能引用错误资讯，三则是无法分辨所引内容属性或层级，越级打怪同样会贻笑大方。