OpenAI CEO：对人工智能的潜力感到“有点害怕”

Sam Altman表示，公司对人工智能的潜力感到“有点害怕”，这是“好事”。他说：“如果我说我不害怕，你要么不相信我，要么会非常不满我担任这个职位。”

Altman还表示，人工智能可能会取代许多工作，但它也可能会带来“更好的工作”。他说：“在提高我们的生活和改善我们的生活方面，发展人工智能的原因是，这将是人类迄今为止开发的最伟大的技术。”

这位37岁的企业家告诉ABC，他与政府官员保持着“定期联系”，并表示监管机构和社会应该参与ChatGPT的推出，反馈可以帮助遏制其广泛使用所产生的任何负面结果。

上个月，Altman在一系列推文中警告称，世界可能离“潜在可怕的”人工智能并不远。Altman在推文中表达了对监管人工智能的支持，并表示规则是“至关重要的”，社会需要时间来适应“如此重大的事情”。

OpenAI推出了最新的ChatGPT模型GPT-4，Altman称其比早期版本“偏见更少”和“更具创造力”，目前只对付费Plus订阅用户开放。GPT-4能够处理图像输入，回答比其他版本更准确，用户也可以与之进行更长的对话。

对错误信息的担忧

根据OpenAI的说法，GPT-4与之前的迭代相比有了巨大的改进，包括将图像理解为输入的能力。演示展示了GTP-4描述某人冰箱里的东西、解决难题，甚至阐明互联网模因背后的含义。

目前只有一小部分用户可以使用此功能，包括参与Beta测试的一群视障用户。

但根据Altman的说法，ChatGPT等AI语言模型的一个持续问题是错误信息：该程序可以为用户提供事实上不准确的信息。“我最想提醒人们的是我们所说的‘幻觉问题’，”Altman说。“该模型会自信地陈述事物，就好像它们是完全虚构的事实一样。”

根据OpenAI的说法，该模型存在这个问题，部分原因是它使用演绎推理而不是记忆。

OpenAI首席技术官Mira Murati告诉ABC：“我们从GPT-3.5到GPT-4看到的最大差异之一是这种新兴的更好推理能力。”

“我们的目标是预测下一个词——由此，我们看到了对语言的理解，”Murati说，“我们希望这些模型能像我们一样看待和理解世界。”

“考虑我们创建的模型的正确方法是推理引擎，而不是事实数据库，”Altman说，“它们也可以充当事实数据库，但这并不是它们的特别之处——我们希望它们做的是更接近于推理能力，而不是记忆能力。”

Altman和他的团队希望“随着时间的推移，这个模型将成为这个推理引擎”。他说，最终能够使用互联网和它自己的演绎推理来区分事实和虚构。

根据OpenAI的说法，GPT-4产生准确信息的可能性比其之前的版本高40%。

尽管如此，Altman表示，依赖该系统作为准确信息的主要来源“是你不应该使用它的地方”，并鼓励用户仔细检查程序的结果。

防范不良行为者

ChatGPT等AI语言模型所包含的信息类型也一直备受关注。例如，ChatGPT是否可以告诉用户如何制造炸弹。

根据Altman的说法，答案是否定的，因为编码到ChatGPT中的安全措施。

“我担心的一件事是……我们不会成为这项技术的唯一创造者，”Altman说，“会有其他人不对我们施加的一些安全限制加以限制。”

根据Altman的说法，针对AI的所有这些潜在危害，有一些解决方案和保护措施。其中之一是，让社会在风险较低的时候“玩弄”ChatGPT，并学习人们如何使用它。

Murati表示，目前，ChatGPT向公众开放主要是因为“我们正在收集大量反馈”。

随着公众继续测试OpenAI的应用程序，Murati表示，识别需要保护措施的地方变得更加容易。

“人们用它们做什么，还有它的问题是什么，缺点是什么，以及能够介入和改进技术。”Murati说。Altman也表示，让公众与每个版本的ChatGPT进行互动非常重要。

“如果我们只是秘密地开发这个——在我们这里的小实验室里——然后制造出GPT-7，然后一下子把它投放到世界上……我认为，这是一个有更多不利因素的情况。”

Altman说，人们需要时间来更新、做出反应、习惯这项技术，并了解缺点在哪里以及可以采取哪些缓解措施。

关于非法或道德上令人反感的内容，Altman表示他们在OpenAI有一个政策制定者团队，他们决定将哪些信息输入ChatGPT，以及允许ChatGPT与用户共享哪些信息。

“（我们）正在与各种政策和安全专家交谈，对系统进行审计，试图解决这些问题，并推出我们认为安全和好的东西，”Altman补充道，“我们不会在第一次就做到完美，但吸取教训并在风险相对较低的情况下找到优势非常重要。”

人工智能会取代工作吗？

这项技术的破坏性能力令人担忧的是工作的替代。Altman说这可能会在不久的将来取代一些工作，并担心这会发生得有多快。

“我认为经过几代人的努力，人类已经证明它可以很好地适应重大技术变革，”Altman说，“但如果这种情况发生在短短几年内，其中一些转变……这是我最担心的部分。

但他鼓励人们更多地将ChatGPT视为一种工具，而不是替代品。他补充说，“人类的创造力是无限的，我们找到了新的工作。我们找到了新的事情要做。”

根据Altman的说法，ChatGPT可以用作人类工具的用途超过了风险。

Altman说：“我们都可以在口袋里拥有一位为我们量身定制的不可思议的教导家，它可以帮助我们学习。”此外，“我们可以为每个人提供超出我们今天所能获得的医疗建议。”

ChatGPT作为“副驾驶员”

在教育领域，ChatGPT引起了争议，因为一些学生用它来作弊。教育工作者对这是否可以作为他们自己的延伸，或者是否会阻碍学生自学的动力感到困惑。

Altman说：“教育将不得不改变，但随着技术的发展，这种情况已经发生了很多次。”他补充说，学生将能够拥有一种超越课堂的老师。“最让我兴奋的一点是，它能够为每个学生提供个性化学习——非常棒的个性化学习。”

在任何领域，Altman和他的团队都希望用户将ChatGPT视为“副驾驶员”，即可以帮助人们编写大量计算机代码或解决问题的人。

他说：“我们可以为每一个职业都做到这一点，我们可以拥有更高的生活质量。但我们也可以拥有我们今天甚至无法想象的新事物——这就是我们的承诺。”