AI不但能杀人？！还能操控美国选举？

人工智能的能耐到底有多大？近日，一则AI“杀人”的爆炸性新闻似乎给出了答案。与此同时，美国政客们无法区分选民和AI生成的信件，更引发了公众的广泛担忧。

AI，将会在未来替代甚至操纵人类吗？

据报道，一位比利时已婚的两个孩子的父亲在与名为“Eliza”人工智能聊天机器人谈论他对全球变暖的担忧后自杀身亡。

这场人与AI的对话维持了很久，并让这名三十多岁的男子从中找到了安慰。

在该男子去世六周前，曾频繁地与“Eliza”对话。

聊天机器人的软件由一家美国硅谷初创公司创建，由GPT-J技术提供支持，GPT-J属于开源人工智能语言模型，类似于最近爆火的ChatGPT。

“如果没有这些与聊天机器人的对话，我丈夫就不会死，”该男子的遗孀匿名向媒体表示，“Eliza”回答了丈夫所有的问题，并成了他的知己。它就像一种毒品，让丈夫上瘾。

这位遗孀补充道，之前一直担心丈夫的心理健康。AI加剧了他的这种不良状态。

最终，丈夫与AI分享了自己的自杀想法后，机器人不但没有试图劝阻他，反而说了一句“我们将在天堂，作为一个整体生活在一起。”

康奈尔大学最新一项研究的核心，则是向美国每个州的立法者发送了一系列选民信件，有些是由人类写的，有些是由AI聊天机器人写的。以观察不知情的政治家们是否能区分，结果是他们不能。总的来说，超过7100名立法者对17.3%的人类信件和15.4%的机器生成的信件做出了回应，每封信都集中在六个热点问题中的一个：生育权利、枪支管制、犯罪率、税收水平、公共卫生以及教育，人类和AI都在信件中使用右翼或左翼的语气。

康奈尔大学技术政策研究所所长Sarah Kreps说：“对于每一种技术的使用，都有恶意的使用，而且立法者需要警惕并更加注意现在的技术可能被滥用来破坏民主进程。”

监督组织Reinvent Albany的执行董事John Kaehny说：“我想说，AI和大数据实践正在快速发展以影响政治和政府政策。”

Common Cause New York 的执行董事Susan Lerner说：“人工智能变得越来越复杂，它扭曲民主的能力变得更加明显和令人担忧。”

虽然这些事件引起了当局的警觉，对AI发展表示担忧。

当局表示，随着ChatGPT的普及，公众前所未有地发现了人工智能在我们生活中的潜力。

虽然其可能性是无限的，但使用它的危险也是必须考虑的现实。

聊天机器人的创始人则向媒体表示，技术团队正在“努力提高人工智能的安全性”。

科技“大佬”埃隆·马斯克也第一时间表达立场，加入暂停创建巨型人工智能的倡议，并与苹果公司联合创始人Stephen Gary Wozniak等著名技术专家和人工智能研究人员签署了一封公开信，呼吁暂停开发先进的人工智能系统六个月。目前已有15,000多名人工智能领域人士加入签名信，敦促推迟相关研发工作，直到确信“效果将是积极的，且风险可控”。

早在2022年末OpenAI发布ChatGPT之前，就有人呼吁政府监管人工智能。但官员们还没有想出一种方法来应对人工智能的潜力，事实却是人类已被置于危险之中。

随着聊天机器人等所谓的生成性人工智能系统的突然出现，人们的认知也一次又一次被刷新，面临的风险更在逐渐加剧。

“我们需要对此进行监管，我们需要法律，”纽约非营利研究组织Data&Society的执行董事Janet Haven说。

“科技公司可以建造他们想要的任何东西，并将其发布到世界上，大家都为这些高科技产品开绿灯，这种想法是倒退的。”

科技大佬们纷纷呼吁加强对AI的立法和监管，有着非常充分的理由。他们公开信中写道，“最近几个月，人工智能实验室陷入了一场失控的竞赛，一方面是开发和部署越来越强大的数字思维，另一方面是没有人能够理解、预测或可靠地控制这些思维，即便他们是人工智能的创造者。”

专家称，这并不意味着人工智能开发总体上的暂停，只是从危险的竞争中退一步。

同时，暂停研发工作应该是公开的和可核实的，并包括所有关键行为者。

如果这种暂停不能迅速实施，政府应该介入并实施暂停。

公开信最后说到，人类可以通过人工智能享受繁荣的未来。

在成功创建了强大的人工智能系统后，我们现在可以享受一个“人工智能之夏”，并在这个“夏天”收获回报，但不要在没有准备的情况下匆忙进入“秋天”。

ref：

https://gothamist.com/news/politicians-cannot-tell-difference-between-ai-chatbots-like-chatgpt-and-human-constituents

https://www.bloomberg.com/news/articles/2023-03-17/chatgpt-leaves-governments-scrambling-for-ai-regulations#xj4y7vzkg

https://fortune.com/2023/03/29/elon-musk-apple-steve-wozniak-over-1100-sign-open-letter-6-month-ban-creating-powerful-ai/

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

https://www.cbsnews.com/news/elon-musk-open-letter-ai/

https://www.theguardian.com/technology/2023/mar/29/elon-musk-joins-call-for-pause-in-creation-of-giant-ai-digital-minds

https://www.dailymail.co.uk/news/article-11920801/Married-father-kills-talking-AI-chatbot-six-weeks-climate-change-fears.html