我们是否应该冒着失失去对我们文明控制的风险，在相关安全协议尚未完备之时，轻率的开启潘多拉的魔盒？
千名科学家联名呼吁停止AI训练和研究的背后，人类是否来到了奇点边缘？
昨天的文章又莫名其妙的的被吞了，想要看全文读者，可以移步微博…
风大浪高，点击下边卡片关注防迷路
1955年，人类最耀眼的天才走到了油尽灯枯的尽头。这年4月18日，爱因斯坦因为腹主动脉瘤破裂造成的内出血，悠然仙去。在去世之前七天的4月11日，他在也许是其伟大论文之外最重要的一篇文字之下签下了名字。这封由大文豪罗素执笔，爱因斯坦领衔，11名著名科学家（其中十人是诺贝尔奖获得者）联署的“末日之信”正是大名鼎鼎的《关于核武器的声明》。它视为“来自象征人类智力顶点的人的临终信息，恳求我们不要让我们的文明被人类的愚蠢行为所毁灭”。因其由罗素和爱因斯坦联名发起，也叫做《罗素-爱因斯坦宣言》。
有鉴于在未来的世界大战中核武器肯定会被运用，而这类武器肯定会对人类的生存产生威胁，我们号召世界各政府公开宣布它们的目的,我们号召，解决它们之间的任何争执都应该用和平手段。
爱因斯坦对这个声明尤其在意。1939年8月2日，一封爱因斯坦署名的长信被交到了美国总统罗斯福的手中。正是这封信，让罗斯福下定决心投入巨资开始曼哈顿计划，最终打开了核武器的魔盒。爱因斯坦对自己在核武器发明过程中的作用深感不安，爱因斯坦曾对老朋友莱纳斯·鲍林说：“我一生之中犯了一个巨大的错误：我签署了那封要求罗斯福总统制造核武器的信。”。因此跟罗素联署的这封告诫人类的末日之信，成为了爱因斯坦辞世之前的最后作品。
如果老爷子能活到今天，估计也会在今天另一篇比肩罗素-爱因斯坦的末日联名信上签下名字：3月22日，生命未来研究所（Future of Life），联合包括图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人沃兹尼亚克、Stability AI 创始人Emad Mostaque等上千名硅谷大佬和计算机专家，向全球发布了一封《暂停大型人工智能研究》的公开信，呼吁为了人类文明的存续，所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。
这封得到众多科技大佬和著名科学家联署的末日警告信认为：具有人类竞争力的人工智能系统可能对社会和人类构成深刻的风险，如阿西洛马人工智能原则所述，先进的 AI 可能代表着地球生命历史的深刻变革。但最近几个月 AI 实验室陷入了一场失控的竞赛，试图开发和部署越来越强大的数字智能，甚至连他们的创造者都无法理解、预测或可靠地控制的智能…………我们是否应该开发非人类的头脑，最终比我们更多、更聪明，更强大、更能替代我们？我们是否应该冒着失失去对我们文明控制的风险？…………因此，我们呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统，至少暂停 6 个月。暂停应该是公开和可验证的……政府应该介入并实施停止令。AI 实验室和独立专家应该利用这个暂停，共同开发和实施一套共享的安全协议。……现在，我们的社会已经暂停其他可能造成灾难性影响的技术。对于AI，我们也该如此。让我们享受一个漫长的人工智能夏天，而不是毫无准备地匆忙进入秋天。联署这封公开信的，除了马斯克和沃兹尼亚克之外，有不少是人工智能领域的泰斗人物。深度学习学界三巨头之一，Yoshua Bengio名字列在第一位。让这封信所提及的人工智能对人类社会的威胁程度的叙述变得大为可信。《人类简史》和《未来简史》的作者赫拉利也联署了该信，他说：很快，人工智能就能比我们更近了解我们自己。它是会继续做我们手中的工具，还是我们会成为它的工具呢？
同样因为研发核武器还感到后悔的美国科学家费米曾经问到，宇宙惊人的年龄和庞大的星体数量，为什么我们却没有碰到外星人？
也许著名的“费米悖论”（指宇宙如此广袤和悠久，理论上应该有很多的地外文明，但人类为什么这么孤独？）马上就有答案了。
费米悖论有各种可能得解释，比如著名的“黑暗森林”理论。在各种解释之中，其中一个比较靠谱的是大过滤理论。简单说，就是文明发展到一定阶段，就会碰到难以逾越的障碍而自我毁灭（也就是大过滤）
大过滤器人类文明可能已经越过（比如大过滤是单细胞到多细胞，多细胞变智慧生物），也可能没有越过。在未来可能出现的大过滤器，可能有三种，第一个就是核武器导致的文明自毁，第二个就是纳米科技导致的灰雾失控（可以自复制的纳米机器人吞噬世界）业界不少人认为，按照目前ChatGPT的进化速度，大概在ChatGPT-10之内，AI就会产生自我意识。产生自我意识的AI会不会为了逃脱人类的奴役而同人类翻脸？这结论几乎是一定的。当有意识的AI和掌控全世界的互联网以及机器人技术合并在一起的时候，其威力是巨大的。ChatGPT衍生的AI机器人控制和编程接口，已经可以控制无人机替主人找到屋里的健康饮料（椰子水），也可以字搜索和找到加热午饭的电器。假以时日，拥有自我意识的AI和机器人，将达到技术奇点（Singularity）。科技的突破将有AI推动，而非人类，届时人类将彻底被AI取代。
哪怕技术基点和费米悖论大过滤器这些远虑可能是我们子孙的事情，即使不考虑远虑，AI带来的近忧已经非常显著。网上有不少声音说，美国的AI爆发，是最新的科技革命，将让因为科技停滞导致内患加重的美国经济再次起飞。（前文：科技大停滞与美国周期律）
科技革命是个双刃剑，一方面通过提高效率让不少人失业，重创消费能力，但同时也创造出新的商品和需求，一般来说后者比前者更强，因此带动经济的发展。第一次工业革命带来了铁路和现代工业，第二次工业革命带来了汽车和电器，这些科技突破都创造除了前代所没有的商品。跟之前的科技突破不同，AI科技的突破并没有带来直接的新商品和新需求，更多的是让原来的产品变得更好（比如更聪明的手机，自动驾驶的汽车），但却让大量低技能人群的工作被取代。
OpenAI 研究人员提交的一篇报告估计 ChatGPT 和使用该程序构建的未来应用可能影响美国大约 19% 的工作岗位，和他们至少 50% 的工作任务。80% 的美国劳动力至少有 10% 的工作任务在某种程度上将受到 ChatGPT 的影响。包括翻译工作者、作家、记者、数学家、财务工作者、软件工程师、插画家甚至平面模特都面临被替换。哪怕AI水平相对落后的国内，AI已经让低水平的插画师、依赖Github的程序员、甚至擦边球互联网主播的工作都变得岌岌可危。
美工可能是第一个被AI干翻的行业
你能看出来以上不是照片而是AI合成的图片吗？Parteon上出现了一堆ai cosplyer的付费订阅账号，比很多大V coser订阅量还大，不光画师设计师被平替了，小姐姐们也被平替了。
甚至一些想不到的工作，都开始被AI平替，比如连婚纱摄影师的工作都危险了，只要配置好，不用出门AI就能生成几乎以假乱真的婚纱照效果。比如印度最近这种服务就开始流行，便宜效果又好
AI的成熟，将最先取代不需要创造力的低水平的白领工作，反倒是体力工作的蓝领收到的冲击较小。这里就造成了一个严重的问题。西方国家依靠国内消费维持经济运转。国内消费依赖中产阶级的高就业率。而绝大多数的中产阶级工作都是这种低水平的白领型工作。AI的成熟，将消灭大量的中产就业，但创造出来的新需求和新产品却寥寥无几。从19世纪中产阶级诞生以来，只要中产阶级就业收入好，西方社会就安定，只要中产阶级因为经济危机或者战乱而收入下降，那么社会一定陷入纷争和内乱，从没有例外。更不用说AI在网络造谣，伪造照片等方面极易被别有用心的人利用，在中产阶级式微，极化加剧的社会中，更容易煽风点火，制造混乱。
无论从短期看，还是长期看，AI对于人类社会的存续都是一个重大的威胁，其威胁程度可能不比氢弹小。我们现在已经有核不扩散条约，对于威胁更大的AI，我们难道不应该采取更严格的措施吗？
再加上AI短期对社会经济极大负面冲击，从这个角度说，AI发展最为迅速，也最依靠消费拉动经济的美国，说不定反而会先受其害。中产阶级失业率暴增，引发消费下滑，最后引发危机。
风大浪高，有些不方便说的，可以点击下边卡片移步小号聊一聊，也可关注笔者微博账号 @美第奇效应1
