国际科技财经博客移民网络热点娱乐民生时事公众号

>

AI Agent满级进化！骑马种田、办公修图，样样精通，昆仑万维等发布通用Agent新框架

AI Agent满级进化！骑马种田、办公修图，样样精通，昆仑万维等发布通用Agent新框架

公众号新闻

2024-07-12 05:07

新智元报道

编辑：好困

【新智元导读】智能体又双叒叕进化了！这次，什么游戏都能玩，什么软件都能操控了。

近日，昆仑万维携手北京智源人工智能研究院、新加坡南洋理工大学、北京大学等顶尖名校机构，联合提出了迄今为止第一个既能玩多种商业游戏又能操作各种软件应用的AI框架——Cradle。

在这个全新的通用计算机控制框架加持下，AI Agent无需训练便能像人一样直接控制键盘鼠标，不依赖任何内部API，实现任意开闭源软件交互。

目前，Cradle的论文、项目、代码均已开源。

论文地址：https://arxiv.org/abs/2403.03186

项目主页：https://baai-agents.github.io/Cradle

代码链接：https://github.com/BAAI-Agents/Cradle

Cradle：真正的全能AI Agent

在游戏中，Cradle不仅能在《荒野大镖客2》里完成长达40分钟主线剧情还能在开放世界自由探索。

在《星露谷物语》里清理农场，种地，去商店购物。

在《城市天际线》中建造出千人小镇。

甚至，还能在《当铺人生2》中和客户讨价还价，并实现最高87%的周收益率！

不仅如此，发推、浏览网页、下载论文，Cradle是样样精通。

撰写、回复、查找邮件也不在话下。

此外，Cradle还能在美图秀秀里修图。

在剪映里剪视频。

在飞书里日常办公。

堪称是一个真正的全能AI Agent。

GCC：通用计算机控制

随着大模型的发展，越来越多的智能体（AI Agents）研究关注计算机控制，包括浏览网页、操作智能手机、玩游戏等。

然而，已有研究依赖软件内部API获取输入，并输出预先定义好的动作，无法真正像人类一样通过眼、脑、手的配合操控计算机。

要构建能完成计算机上一切任务的通用智能体，必须使用最通用和最标准的输入输出与计算机进行交互。

因此，通用计算机控制使用统一的输入和输出，从而让智能体的通用性变为可能。

但通用性带来了操作上的难度：

（1）使用计算机屏幕作为输入对智能体的视频理解能力提出了更高的要求，例如由于没有内部API，需要通过视觉信息判断动作是否执行成功；

（2）使用键盘和鼠标操作作为输出使得智能体需要更高的时空操作精度，比如键盘按键和鼠标点击通常额外涉及时间维度；

（3）许多计算机上的复杂任务往往需要连续执行成百上千次的正确操作才能完成，是智能体的长程规划决策和历史信息维护处理能力的一大挑战；

（4）虚拟世界中多如繁星的环境和任务是对智能体高效探索并自我提升实现通用性的一大考验。

这些难题成为了构建通用计算机控制智能体（GCC Agents）的挑战。

六大模块，三大环节

Cradle一共由6个模块组成：信息收集、自我反思、任务推断、技能管理、行动规划，以及记忆模块。

Cradle高度的通用性，来源于其对和电脑交互过程中的原始输入输出的合理封装和抽象。

以从屏幕中显示的视频图像作为输入，提取其中的文本和视觉信息进行决策，并且输出最底层的操作系统中控制键盘和鼠标的信号去和电脑交互，使其可以不依赖于任何假设和任何内部API进行交互。

同时，Cradle强大的决策推理模块让其得以自发和软件进行交互并且完成任务，这个过程可以被简单地总结为：反思过去，总结现在，规划未来。

反思过去：Cradle使用执行过往动作过程的视频作为输入，分别提取出其中关键的文本和视觉信息，通过反思来判断上一步动作是否执行成功任务是否完成以及如何改进。

总结现在：反思完之后，Cradle需要总结当前情况，并且以此为根据来决定是否更换任务目标或是修改任务内容。

规划未来：最后Cradle会根据当前任务以及现状生成或者更新自身的技能，并且从已经学会的技能中检索一部分和当前任务相关的技能作为备选，然后从中选取合适的技能实例化为动作去执行。

在决策推理的同时，Cradle还会周期性地总结和维护储存在情境记忆中的历史信息以及储存在周期性记忆中的技能。

在此过程中，Cradle为其添加了记忆，总结和反思的功能，进一步提升了其对于决策过程中的观察和行为的理解。

Cradle能直接根据游戏内的提示和教程或是自我探索的方式生成对应的操作键鼠的可执行代码作为技能，一步步丰富自己的技能库，并在之后的游戏中重复使用这些技能。

游戏办公全精通

为了验证Cradle的通用性，研究者们选择了4款风格迥异，操作各不相同的经典游戏进行测试——

从第三视角的3D角色扮演类游戏《荒野大镖客2》到2D固定视角的模拟经营类游戏《星露谷物语》到俯视角的城市规划类游戏《城市天际线》再到侧重交易策略的模拟经营类游戏《当铺人生2》，并分别设计了不同的任务。

在通用软件方面，Cradle团队也同样选择了5款常用软件进行测试，包括Chrome、Outlook、CapCut（剪映）、Meitu（美图秀秀）和Feishu（飞书）。

首先，Cradle能够胜任游戏中的各种任务：

在《荒野大镖客2》的主线剧情以及开放世界中均有出色表现，能够连续完成长达40分钟的2个完整主线任务，骑马、战斗、购物样样在行。

在《城市天际线》中修路、保障水电供应，合理划分居民、商业和工业区，建立起千人小镇；
在《星露谷物语》中清理农场杂物、种地收获作物、购买种子；
在《当铺人生2》中在和客户讨价还价近2轮后以93.6%的交易成功率达成了平均39.6%的周收益率。

表1：Cradle在各游戏中的表现，所有任务均测试5次，4/5表示5次测试中成功4次

其次，Cradle在日常软件应用的各项任务执行上表现不俗，如论文下载、发邮件、修图、剪视频、发送飞书文件等。

同时，Cradle在非常有挑战性的benchmark OSWorld上也同样击败了使用真值作为标签的基线方法。

表2：Cradle在OSWorld各类任务上的成功率（%）以及和基线方法的对比

最后，Cradle也同样击败了众多常见基线方法，证明了框架各个模块的合理性和必要性。

表3：Cradle和各种基线的对比的消融实验，所有任务均测试5次，括号前数字表示完成任务的平均步数，括号中数字表示5次测试中成功的次数，N/A表示5次全部失败

通往AGI之路

此前，大量关于AI智能体的研究都依赖于计算机内部API的信息获取，无法让AI真正「像人类一样」通过眼、脑、手的配合与计算机进行互动，其环境、行为、动作都相对固定，难以实现跨软件、跨平台的通用智能。

Cradle极大程度地扩展了智能体可以交互的范围，并且证明了将一切软件转化为测试智能体不同能力的testbed的可能性。

它所提出的通用计算机控制的设定统一了输入输出的接口，促进了统一粒度数据的搜集，为未来Agent在各个环境中交互并且自我提升打下了坚实的基础。

面向数字世界的通用人工智能，正在加速到来。

参考资料：

https://arxiv.org/abs/2403.03186

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章

相关阅读

寡姐带货国风Polo衫，马斯克穿牛仔走红毯！虚拟试衣新框架火了，只需两张图30秒即生成让人物跳起来！华科&阿里巴巴提出UniAnimate：人类跳舞视频生成新框架！支持合成一分钟高清视频！澳洲各地枪支法一览：多州收紧管控，新州严格管制枪支所有权，昆州拟议枪支禁令昆仑万维开源 2 千亿稀疏大模型天工 MoE，全球首创能用 4090 推理可「自主进化」的Agent？首个端到端智能体符号化训练框架开源了丰田、本田、马自达等车企造假，斯坦福团队抄袭清华系大模型，巴菲特公司股票跌98%，周星驰首部短剧上线，这就是今天的其他大新闻！MICCAI 2024｜改进U-Net！SelfReg-UNet：医学图像分割新框架新加坡老巴刹，比你爷爷的爷爷还老，米其林、网红摊位，样样都有只需将感知推理能力拆分，2B大模型就能战胜20B！国产新框架高效处理视觉任务 AAAI 2024 | 广西师范大学提出ODTrack：目标跟踪新框架大费城地区7月份招聘：运营总监、销售、双语客服、缝纫师、办公室职员、护理人员、司机、仓管等标注受限也能识别多标签图像！中山大学等发布异构语义转移HST框架 | IJCV 2024 学术+升学+全面发展，样样出色！如何精准把握Brighton College的入学时间点？昆仑万维发布全球首款AI短剧平台SkyReels，AIGC业务矩阵再升级芯片原厂驱动开发工程师：初学到精通，如何快速成长？苹果AI一夜颠覆所有！Siri史诗级进化，内挂ChatGPT-4o，奥特曼来了，马斯克怒了 2024新一线城市魅力排行榜最新发布：无锡回归，昆明再次跌出小米大模型提效新框架：训练最高提速34%，推理最高提速52%！Kaldi之父合作出品再读三国偶感之一：汉末三国历史为什么别样精彩 GPT-4预测股票涨跌更更更准了！东京大学新框架LLMFactor提升显著｜ ACL 2024 ICML 2024 | 上海交大发布UP2ME，首个多用途通用时间序列分析框架一周精选好物！骑马椅，小天才电话手表Z6Pro，《以科学之名破坏这本书》，舍予系列，丽贵多维小熊糖 5秒完成3D生成，真香合成数据集已开源，上交港中文新框架超越Instant3D Box Hill改造升级进行中！华人居民崩溃，生活受到影响支持合成一分钟高清视频，华科等提出人类跳舞视频生成新框架UniAnimate 大费城地区7月份招聘：双语客服、保险文员、缝纫师、餐厅企台、办公室职员、护理人员、司机、仓管、销售等打通智能体「自我进化」全流程！复旦推出通用智能体平台AgentGym 北大快手攻克复杂视频生成难题！新框架轻松组合各种细节，代码将开源昆仑万维携手南洋理工大学抢发Q*算法：百倍提升7B模型推理能力大费城地区5月份招聘：保险文员、后厨帮工、餐厅企台、办公室职员、护理人员、司机、仓管、销售等

热点事件追踪

美国公司裁员Layoff

2024-01-28 18:01

2024-01-09 19:01

2024-01-07 18:01

美国堕胎权争议

2024-01-06 18:01

美国枪击案

2024-01-06 18:01

2023-12-13 17:12

2023-12-02 07:12

2023-11-26 18:11

中美航班重磅消息！每周85班，直飞更方便！

微软、亚马逊、谷歌大裁员！哪些科技和零售公司有缩减规模计划？

中国外长王毅：中美关系已经止跌回稳

脱轨事故造成20多人受伤联邦调查纽约市全部地铁系统

更多 2024-11-14 的新闻