ChatGPT聊天狗屁通(上) – 知多少？

ChatGPT聊天狗屁通(上) – 知多少？

2023年2月14日

第一次听说ChatGPT是去年12月22日和朋友去参加聚会的路上，我这位好友EE专业，当时他讲得眉飞色舞异常兴奋, 一项革命性的技术，无所不能。当时没有上心，直到最近听了NPR新闻介绍后，立马注册了一个免费账户，开始与Chat GPT聊天。第一次主要是关于水处理行业的一些简单问题，感觉不错，还给公司主管部门领导与同事推荐了一把。但对这个新鲜事物知之甚少，下面主要参考wikipedia网站，了解了这方面的情况（我其实应该问ChatGPT看它怎么说？我估计它也许没有我说的全面，哈哈！）。

先看网站是怎么介绍的。“ChatGPT：优化对话的语言模型。我们已经训练了一个名为 ChatGPT的模型，它以对话方式进行交互。对话格式使 ChatGPT 可以回答后续问题，承认错误，挑战不正确的前提并拒绝不适当的请求。ChatGPT 是 InstructGPT 的同级模型，它经过训练可以按照提示中的说明进行操作并提供详细的响应。”https://openai.com/blog/chatgpt/

ChatGPT的全称是Chat Generative Pre-trained Transformer (GPT)，一种生成式预训练转换器(智能机器人) ，可以使用多种语言，包括英文与中文。 我喜欢中国有人把GPT叫“狗屁通”(拼音Gou Pi Tong, GPT)， 很俗，接地气，容易记。 聊天狗屁通是由总部位于旧金山的OpenAI 开发并于 2022 年 11 月30日推出的人工智能生成聊天机器人。它建立在 OpenAI 的 GPT-3 系列大型语言模型之上，并经过微调（一种传输方法）同时使用监督和强化学习技术。

在这里不得不说一下Samuel H. Altman（1985 年 4 月 22 日出生），这个人也许会名流千古。他是一位美国企业家，投资者和程序员。他是 OpenAI 的首席执行官和 Y Combinator 的前总裁。Altman 也是 Loopt（成立于 2005 年）和 Worldcoin（成立于 2020 年）的联合创始人。Samuel Altman在密苏里州圣路易斯长大； 他的母亲是皮肤科医生。他在八岁时有了他的第一台电脑。他出生于一个犹太家庭。高中时，他就读于 John Burroughs 学校，并在斯坦福大学学习计算机科学，直到 2005 年辍学(又一个没有拿学位的，读书可能是普通百姓的事，对天才而言是浪费)。

OpenAI 是一家盈利上限研究公司，其目标是以最有可能造福于整个人类而不是造成伤害的方式推进人工智能。有意思的是《纽约时报》援引Samuel Altman的话说，人工智能对人类的好处可能‘好得令人难以置信，我甚至难以想象’。 可他还说过，在最坏的情况下，人工智能可能会杀死我们所有人。OpenAI最初由 Altman，Brockman，Elon Musk，Jessica Livingston，Peter Thiel，Amazon Web Services，Infosys 和 YC Research 资助。总的来说，当公司在2015年成立时，它已经从外部投资者那里筹集了10亿美元。走题了，言归正传。

ChatGPT的推出，因其详细的响应和跨不同知识领域的清晰答案而迅速获得关注，火爆全球。到 12 月 4 日短短几天时间，OpenAI 估计ChatGPT已经拥有超过100万用户。 2023年1月，ChatGPT 的用户超过1亿，成为迄今为止增长最快的(没有之一)消费者应用程序。据说这项技术与个人电脑和互联网有同样重要大的历史定位。

目前可以注册免费账户，但从这月，OpenAI 开始接受美国客户注册高级服务 ChatGPT Plus，每月收费20美元。OpenAI 计划发布每月收费42美元的 ChatGPT Professional Plan，并且在需求低迷时提供免费计划。

虽然聊天机器人的核心功能是模仿人类对话者，但 ChatGPT 用途极其广泛。例如，它可以编写和调试计算机程序，创作音乐，电视剧，童话故事，和学生论文；回答考试问题（有时，根据测试，水平高于普通人类测试者）；写诗歌和歌词；模拟 Linux 系统；模拟整个聊天室；玩井字游戏；并模拟 ATM。可以这么说世上任何的问题除了ChatGPT本身和敏感问题，数理化，天上的，地上的，海里的，家里的，公司里的，等等，都可以问Chat GPT。

人工智能在阅读和写作方面的优化将产生“巨大影响”。人工智能在语音识别和视觉识别方面做得非常好，但它们基本上不识字，换句话说，传统的人工智能实际上无法处理自然语言。但ChatGPT新软件能够通过输入新知识接受培训，提高阅读和写作等文字处理能力。在某种程度上赋予了创作的能力，这是人工智能在语音识别和视觉识别上无法比拟的。

当然，任何的新生事物肯定有它的局限性，ChatGPT也不例外，ChatGPT 受到多重限制。 OpenAI 承认ChatGPT“有时会写出看似合理，但不正确或荒谬的答案”。这种行为在大型语言模型中很常见，被称为人工智能幻觉。ChatGPT的奖励模型围绕人类监督而设计，可能会过度优化，从而影响性能，也称为古德哈特定律。ChatGPT 对 2021 年之后发生的事件知之甚少。据 BBC 报道，截至 2022 年 12 月，ChatGPT 不得“表达政治观点或从事政治活动”。然而，研究表明，当提示对来自两个已建立的投票建议应用程序的政治声明采取立场时，ChatGPT 表现出亲环境的左翼自由主义倾向。在训练 ChatGPT 时，评论者更喜欢更长的答案，而不考虑实际理解或事实内容。训练数据也存在算法偏差，这可能会在 ChatGPT 响应包括人物描述符在内的提示时暴露出来。

ChatGPT 发布后，在互联网上发现的任何内容是否“可以真正信任”，产生疑问，希望政府监管。人工智能的发展可能会造成“大规模破坏”。可能导致作弊，失业，歧视，虚假信息和无法控制的军事应用。将 ChatGPT 列为“生成式人工智能爆发”的一部分，“可能会改变我们对工作方式，思维方式，以及人类创造力的真正含义。它能够生成“令人印象深刻的详细”和“类似人类”的文本。

人工智能可以用来帮助实现教育和学术目标。但ChatGPT 缺乏道德规范，目前无法对网站的可靠性，质量或可信度进行排名。在学术界ChatGPT能够编写科学文章的介绍和摘要部分，这会引发伦理问题。你信不信已经有几篇论文将 ChatGPT 列为作者之一？这里我们又如何确认Chat GPT不是剽窃人类的呢？如何确定全部或者部分AI 生成的论文，或者是人类所写，以对抗学术剽窃，问题恐怕非常严重，也将考验人类智慧。BTW，自今年 1 月 4 日起，纽约市教育局已限制从其公立学校互联网和设备访问 ChatGPT。

在网络安全方面，ChatGPT 能够编写网络钓鱼电子邮件和恶意软件，所衍生的网络安全风险恐怕也是我们要面对，要承担的。其它问题包括伦理问题，例如标签数据就是针对有毒内容，如性虐待，暴力，种族主义，性别歧视等的安全系统，使用人工来标记这些有毒内容。越狱问题就是ChatGPT 会尝试拒绝可能违反其内容政策的提示。但用户也许有能力通过使用各种提示工程技术绕过这些限制，并成功越狱 ChatGPT，如让ChatGPT 给出了如何制造莫洛托夫鸡尾酒或核弹的说明，

在人工智能生成聊天机器人商业竞争方面，ChatGPT被认为将颠覆传统搜索引擎的商业模式，危及谷歌的现有地位。据CNBC报道，谷歌员工正在紧锣密鼓地测试一款名为“学徒巴德”（a chatbot called "Apprentice Bard"）的聊天机器人，谷歌正准备利用这个“学徒”与ChatGPT竞争。另外报道，Microsoft Bing 计划在其公共搜索引擎中添加可选的 ChatGPT 功能，时间可能在今年 3 月左右，也就是下个月。OpenAI 与微软的云服务 Azure 紧密合作。2019 年 7 月，微软以 10 亿美元支持 OpenAI，这笔投资使微软成为 OpenAI 的“独家”云计算服务提供商。微软表示，Azure 将继续作为OpenAI的独家提供商。

中国搜索引擎公司百度于刚刚宣布，他们将在今年 3 月的某个时间推出中文名为“Wenxin Yiyan”或英文名为“ERNIE Bot”的 ChatGPT 式服务。韩国搜索引擎公司也在前几天宣布，他们将在今 年上半年以韩语推出名为“SearchGPT”的 ChatGPT 式服务。俄罗斯搜索引擎公司 Yandex 也是这月刚宣布，他们将在今年底之前推出俄语版名为“YaLM 2.0”的 ChatGPT 式服务。

毫无疑问，ChatGPT是有史以来向公众发布的最热门，最好的人工智能聊天机器人。这项人工智能的进步是目前“最重要的”创新，也许是史无前例的，肯定将改变我们的世界。ChatGPT尽管有许多缺陷与有待发展，改进的地方，但它确实聪明过顶，很有用。套句埃隆·马斯克 (Elon Musk) 的话说：“ChatGPT 好得吓人。我们离危险的强大人工智能不远了”。 （完）

1. OpenAI 网站首页

2. ChatGPT聊天页面