Redian新闻
>
硬核观察 #760 DeepMind 研究员论文称 AI 将消灭人类

硬核观察 #760 DeepMind 研究员论文称 AI 将消灭人类

科技
 
导读:• DeepMind 研究员论文称 AI 将消灭人类 • AI 机器人在论坛模仿发帖,导致用户互相指责对方是机器人 • 微软 Teams 以明文方式存储授权令牌
本文字数:983,阅读时长大约:1分钟

作者:硬核老王

DeepMind 研究员论文称 AI 将消灭人类

来自谷歌 DeepMind 和牛津大学的研究人员发表的一篇新论文称,超级智能的 AI “很可能” 会给人类带来生存灾难。这篇论文设想地球上的生命将变成人类与超级先进的机器之间的零和游戏。他们认为,在一个资源有限的世界里,对这些资源的竞争是不可避免的。在未来的某个时刻,监督某些重要功能的高级 AI 可能被激励想出作弊策略,以损害人类的方式获得其奖励。

消息来源:VICE🔗 www.vice.com

老王点评:虽然可以按照阿西莫夫机器人三定律的原则设计一些 AI 自限的规则,不过,说到底,还是要让 AI 认为人类的存在是必要的才行。

AI 机器人在论坛模仿发帖,导致用户互相指责对方是机器人

一位 YouTube 主播利用论坛的内容训练了一个 AI 语言模型,并将该 AI 模型用于 10 个机器人程序,然后在 24 小时内发了 1.5 万个论坛帖子。这些机器人虽然偶尔会犯错,但该论坛的用户花了两天时间才注意到问题,并识别出了其中一个机器人账号。机器人账号导致了用户之间的不信任,即使在关闭了这些机器人之后,用户彼此之间仍然会指责对方是机器人。

消息来源:Solidot🔗 www.solidot.org

老王点评:过去是安能辨我是雌雄,现在是谁知道你是不是个机器人呢?

微软 Teams 以明文方式存储授权令牌

安全分析师在微软 Teams 的桌面应用程序中发现了一个严重的安全漏洞,它在 Windows、Linux 和 Mac 中以明文方式存储授权令牌,使威胁者能够访问认证令牌和开启了多因素认证(MFA)的账户。研究人员在 2022 年 8 月发现了这个问题,并向微软报告。然而,微软并不同意这个问题的严重性,并表示它不符合打补丁的标准。由于微软不准备提供补丁修复,专家建议用户改用浏览器版本的微软 Teams 客户端。

消息来源:BleepingComputer🔗 www.bleepingcomputer.com

老王点评:或许微软有自己的逻辑,不过微软这种否认后再提供补丁的事情也不少。

回音

◈ 美国财政部上个月宣布制裁混币器 Tornado Cash 后引来了反对诉讼,现在它 澄清🔗 www.theblock.co 制裁不涉及源代码,美国人可以查看、复制、讨论和教授源代码,或将源代码包含在书面出版物中。

昨日观察

关注 Linux 中国,每日硬核点评

欢迎遵照 CC-BY-SA 协议规定转载,
如需转载,请在文章下留言 “转载:公众号名称”,
我们将为您添加白名单,授权“转载文章时可以修改”。

微信扫码关注该文公众号作者

欢迎戳这里提交新闻线索和高质量文章给我们。
新闻来源: qq
相关阅读
联系我们隐私协议©2022 redian.news
Redian新闻 · 海外热点 · 尽在指尖
Redian.news刊载此文不代表同意其说法或描述,仅为提供更多信息,也不构成任何投资或其他建议。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理凡用户自行发布的信息的合法性及真实性由发布者负责,与Redian.news及其运营公司无关