暂停GPT-5研发呼吁引激战！吴恩达、LeCun带头反对，Bengio站队支持

---

  新智元报道  

6个月的暂停期，不是一个切实可行的建议。为了提高人工智能的安全性，围绕透明度和审计的法规将更加实用，并产生更大的影响。在我们推进技术的同时，让我们也更多地投资于安全，而不是扼杀进步。

突发新闻：我之前提到的那封信现在公开了。这封信呼吁暂停「比GPT-4更强大」的AI的训练6个月。许多知名人士签了名。我也加入了。

我没有参与起草它，因为还有一些别的事需要大惊小怪（例如，比GPT-4更强大的AI，究竟是指哪些AI？既然GPT-4的架构或训练集的细节还没公布，那我们从何得知呢？)——但这封信的精神是我所支持的：在我们能更好地处理风险和收益之前，我们应该谨慎行事。

看看接下来会发生什么，将会非常有趣。

构成好的通用人工智能的要素：

1.对齐超级智能的技术能力

2.大多数领先的AGI工作之间的充分协调

3. 一个有效的全球监管框架

这封信低估了事态的严重性，要求解决的问题太少了。