Redian新闻
>
将大模型疯狂用到军事上,这家企业创始人“疯了”?

将大模型疯狂用到军事上,这家企业创始人“疯了”?

公众号新闻

整理 | 褚杏娟、核子可乐

讨论将 AI 应用于战争,这家企业“疯了”!

5 月 7 号到 8 号,华盛顿特区举办了一场特别的大会。此次会议的主赞助商则是由美国企业家与风险资本家、政治活动家、PayPal 联合创始人 Peter Thiel 参与创立的软件厂商 Palantir,这家公司因在 2019 年疫情封闭期间联手移民和海关执法局(Ice)组织抗议活动而闻名。目前,Palantir 正在向以色列国防军供应部分 AI 产品。

此外,微软、谷歌、亚马逊、Groq 等 20 多家企业也是这场大会的赞助商。

当时,微软宣布已在隔离的 Azure 政府绝密云中部署了 GPT-4 大型语言模型,供国防部使用。一旦该工具获得认可,五角大楼官员将能够在安全的环境中使用该技术。这个消息在当时被广泛关注,但更多主题可能被大家忽略。

亲身参加了这次会议的外媒记者 Caroline Haskins 近日发文详细记录了自己的所见所闻。他说到,会议厅里满是代表美国军方及其数十家承包商的展位,其中包括博思艾伦公司,还有某家可称为“飞机软件界的 Uber”的企业。

“在这样的行业内部会议上,权贵们往往更加直言不讳、疏于掩饰——他们自认为身处安全空间,毕竟身边全都是朋友和同事。”Haskins 表示,“这也让我加倍好奇,他们对于加沙地带的 AI 驱动暴力行动,乃至于战争的未来形态究竟有何看法?”

与会者们被告知,会议最大的亮点就是主厅后方房间里的一连串展板。事实上,那个房间专门展示一个主题,其余部分则由 Schmidt 本人和 Palantir 公司 CEO Alex Karp 主持的 fire-breathing 定基调。

值得注意的是,2023 年 9 月,《时代》周刊发布了首届全球百大 AI 人物,Karp 被评为全球 AI 领袖。在此前联名呼吁“暂停人工智能(AI)研究”的活动中,Karp 反驳了公开反驳,并回怼那是因为他们自己没有 AI 产品。

今年 4 月底,Palantir 推出了自己最新的生成式人工智能平台,该平台理论上可以为军事指挥官提供军事决策、命令下达、作战监控,实现优化决策流程、缩短决策时间、获得最优作战方案、保障作战质量的目标。Palantir 与美国政府的合作一直都很紧密。

Palantir 联合创始人兼 CEO Alex Karp 与海军上将 Tony Radakin

这场大会把参与者们划分成了两类:一类将战争视为经济与战略问题,另一类将战争理解为死亡问题。Haskins 表示,与会的大多数人都属于前一类。

“我之前就一直在关注科技企业与军方机构之间的关系,所以本来不该对在这次会议上看到或听到的任何情况感到意外。但在会议结束、离开华盛顿返回家中时,我感到自己的生命力似乎已经被这场狂暴的活动抽干了。”Haskins 写道。

Haskins 究竟看到了什么?下面我们跟随 Haskins 的视角,近距离看看会议上的权贵们都说了些什么。

Palantir CEO 的“高谈阔论”

跟着大群观众,我们穿过主厅去观看核心议题的小组讨论。Karp 和 Schmidt 连同 CIA 中情局副局长 Divad Cohen,以及负责战争事务的高级官员 Mark Milley 在这里发表了讨论。

Schmidt 自我介绍时麦克风意外故障,于是 Cohen 把自己的麦克递了过去。Schmidt 开玩笑说,“中情局总能及时伸出援手。”在接下来的 90 分钟里,讨论就在这样的轻松氛围下进行。

Eric Schmidt、David Cohen、Mark Milley 将军、Palantir 公司 CEO Alex Karp 以及 Andrew Ross Sorkin 齐聚小组讨论现场

当主持人询问小组成员对于未来战争的看法时,Schmidt 和 Cohen 都回答得相当谨慎。

而向来以态度激进闻名的 Karp 则极度纵容暴力,而且不吝以饥渴的眼神凝视观众,希望从我们身上得到或赞许、或震惊的明确反馈。

这位 AI 领袖首先表示,美国必须在战中“吓死我们的对手。”在谈到哈马斯去年 10 月 7 日对以色列的袭击时,他指出“如果我们美国遭遇到类似的突袭,那地球表面就会多出一个大洞。”Karp 坚称,“和平活动家就是战争活动家。所以我们明显属于和平活动家。”

随着 Karp 的加入,Milley 的言辞也愈发夸张。在讨论结束时,他甚至直接将反对加沙战争的美国人称为“恐怖组织的支持者。”

Schmidt 同时提到了无人机和自动化技术在战争中的重要性。他本人也在低调创办自己的军用无人机公司。

Cohen 则敦促大家将 10 月 7 日的袭击视为对军事环境中技术升级的“重大警告”。Cohen 指出,尽管以色列在防御的监控技术方面“投入了大量资金”,但仍然未能阻止垄断。“我们确实要保持一点谦逊之心。”

但从多数发言者的观点来看,人们普遍比 Cohen 更加乐观,只是觉得系统故障属于技术问题,用更多、更新的技术就可以解决。

我带着麻木的脑袋和僵硬的身体离开了小组讨论现场。

我无意间听到了身边其他与会者们那冷漠的话语。他们有为这么恐怖的发言而震撼吗?完全没有,他们在讨论午餐、周末去哪玩,还有下一场小组讨论的内容。我们似乎完全生活在不同的世界里。

“我就是新时代的奥本海默”

在到处转悠了大概 10 分钟之后,我给手机充上电,然后向身边的另一位与会者主动打了招呼。这是位 50 多岁的男性,我问他对这场小组讨论怎么看,他温和地微笑回应,说 Milley 的二战观点很“有趣”。

他问道,“你看过‘奥本海默’吗?”

我说,“没有,但我读过《原子弹的诞生(The Making of the Atomic Bomb)》。”

我以为他想聊聊那帮制造战争武器的家伙有多傲慢。但相反,他说他在洛斯阿拉莫斯实验室从事核武器研究。他把手伸进背包,给我拿了几根带着阿拉莫斯 logo 的钢笔的贴纸。

他没有透过太多关于工作的细节,但给我看了几眼他花钱租来的豪车。聊了几分钟后,他开始收拾东西,并突然笑着说,“我刚刚想到一件事,我就是新时代的奥本海默!”

看着他返回阿拉莫斯实验室的展位,我勉强挤出礼貌的微笑。

在整场会议期间,我游走于不同的展位,并最终遇到了两个校友。在国家安全局的展位上,一名年轻女士告诉我,安全局岗位有着良好的“工作生活平衡”。我还参观了 Palantir 的招聘展位,那里的员工 Elizabeth Watts 告诉我,愿意在 Palantir 工作的人首先要能承受 Karp 的言论。“想要捍卫西方民主国家的人、对国家安全感兴趣的人都知道,这个世界并不是非黑即白。”

Palantir 公司为士兵们提供一款新型增强现实工具

在 Palantir 巨大的主展位中,我试着戴上 VR 头显来测试 Palantir 为士兵们提供的新型增强现实工具。有人告诉我,我可以在正常观察身边环境的同时指挥卡车或者无人机。但在戴上头显后,我发现自己的视野很不稳定而且会失焦。

一位 Palantir 员工向我解释说,现场有很多人都在试戴这款头显。要想确保视野清晰,头显必须完美贴合使用者的头部和眼睛。但他没有主动帮助我调整头显,所以我的高科技作战视野仍然一片模糊。

活动第一天晚间,Palantir 举办了一场提供免费酒水的社交活动。现场只提供两款 IPA 精酿啤酒,我选择的叫“the Corruption”,可以说是这辈子我喝过的最难喝的酒。之后我跟一位名叫 Sata 的加拿大男子攀谈,他看上去也就 20 多岁。他说自己是 Palantir 的投资者,所以我当然好奇他这么年轻怎么会有闲钱投资。

他说“我出了车祸”。在正常治疗之外,他把剩下的钱拿去投资。总之他的投资比较成功,但这趟会务出行却是亏的。

Palantir 地图工具:帮助选择轰炸目标

我还参加了 Palantir 展位上名叫“缓解平民伤害”的小组讨论。这场讨论由两名“隐私与公民自由工程师”主持,这是一对言语无味的年轻男女。他们用各种委婉的说法来形容轰炸和死亡。其中的女士称,Palantir 的 Gaia 地图工具能帮助用户“处理目标筛选流程”以挑选“感兴趣的目标”,也就是帮助士兵选择具体要轰炸哪些地点。

在交互式地图上点击了几个选项之后,目标区域就亮起了耀眼的蓝色斑点。她解释称,这些亮点代表的是医院和学校等民用区域。以往民用地点大多采用文字描述,但阅读起来费时费力。因此,Gaia 利用大语言模型(例如 ChatGPT)来筛选信息并加以简化。从本质上讲,选择轰炸目标的士兵们可以借此快速了解哪里聚集着大量儿童或者病人。

我后来问这位工程师,“假设你在一个存在大量平区域的地方行动,比如加沙地带,Palantir 是否会阻止你在平民地点‘指定目标’?”

这位女士直接回答不会,“一切由最终用户决定。”

接下来我看到了一个小小的沉浸式展位,在灰色墙体上张贴着关注普通民众受到战争影响的海报。这里就是国际红十字会的地盘。

国际红十字会的展位

穿过一道看似平常的出口,我又迈进一处“紧急避难所”。这是一处为冲突地区的年轻民众提供庇护的样板房间,里面有一张小沙发,上面摆着一只摊开的睡袋,角落里还放着儿童玩具。黄色字样警告称居民应“留在指定的安全区域”。厨房桌子上的收音机似乎正在播放新闻,但信号不太稳定。

这处避难所虽然规模不大,但在这场堪称军工复合体狂欢的会议上却是如此引人瞩目。终于有一个地方在呼吁人们关注战争的受害者,至少应该注意到他们。

走出避难所,我与国际红十字会员工 Thomas Glass 聊了一会。他很专注、很投入,但看起来也很疲惫。他说他刚刚花了几周时间,在加沙南部建立了一处野战医院并搭设起了公共厨房。

我问与会者们对红十字的展位有何反应。Glass 表示,他遇到的大多数人都持开放态度,但也有些人问红十字跟到军工展会来干什么。也许更可悲的是,这么问的人并不是在刻意挑衅,他们是真的无法理解。

结束语

目前,五角大楼官员已经接受了在整个部门内使用生成式 AI 工具。五角大楼官员将生成式 AI 视为一种可以在整个部门内使用的工具,具体包括增强后台功能乃至辅助一线作战人员等。

然而,仍有一些安全问题需要解决。他们即将发布一项新指令,以指导该部门运用生成式 AI、特别是大语言模型方面。“大语言模型很强,堪称生产力的巨大驱动引擎,让我们能够完成更多工作。但作为一项新技术……在我看来,目前仍处于 AI 泡沫阶段。放眼整个行业,每个人都在积极竞争,希望尽快打造出最出色的大语言模型。在这方面,我们仍存在一些差距。所以最重要的就是不能直接借用外部大语言模型、指望登录上去并输入我们的数据就能获得符合预期的 AI 回复。”陆军数据、工程与软件副助理秘书 Jennifer Swanson 表示,

她指出,这样做可能会导致陆军敏感数据通过互联网及对手也能访问到的训练模型而泄露至公共领域。“这将非常危险。因此,我们正在研究内部应对之策,包括在影响等级 IL5 和 IL6 范围之内,可以采取哪些行动。”

一位美军方人士表示,“我们的总体目标就是让大模型以数据功能的形式存在,借此为军方的供应商提供辅助。我们会先以特定用例试水,比如为美国政府构建一套模型的话应该是什么样子、要为军方总部构建的模型又应该是什么样子,以及这些模型之间是什么关系等等。这一切将成为推动后续合作及发展的起点。”

Garciga 透露,他们正在对指南备忘录中的内容做初步整理,目前内容主要集中在数据保护方面,包括设想当中的护栏应当具备哪些功能、政府及产业之间又将以何种方式围绕生成式 AI 开展交互等。

显然,即将出台的新政策将高度关注安全问题。但这种安全只是系统的安全,更广泛的人类范畴内,可能并不在讨论范围里。

声明:本文为 InfoQ 翻译整理,未经许可禁止转载。

参考链接:

https://www.theguardian.com/technology/article/2024/may/17/ai-weapons-palantir-war-technology

https://defensescoop.com/2024/05/09/army-policy-guidance-use-large-language-models-llm/

活动推荐

6 月 14 日,Microsoft AI Day in Beijing 重磅来袭!诚挚邀请您加入 Microsoft AI Day in Beijing。届时来自微软的高管及技术专家、合作伙伴将与您齐聚一堂,分享关于 AI 智能技术的前瞻见解和行业应用场景,结合现场演示展示微软产品的功能和特性,深入探讨生成式 AI 技术的最新进展与创新潜力,如何在 AI 时代构建企业竞争力,以及开发者如何迈进企业数据与生成式 AI 的新纪元。同时,我们还将分享人工智能助力提升生产效率的实践经验,以帮助您更深入、直观地了解微软 AI 解决方案。欢迎扫码或点击【阅读原文】报名!

 报告推荐

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI 应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国 AGI 市场发展研究报告 2024》,欢迎大家扫码关注「AI 前线」公众号,回复「AGI」领取。


今日荐文


26岁带着百人团队冲刺大模型,面壁智能天才CTO:高效比参数更重要


OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报


AICon 2024 重磅开幕!60 余位大咖干货集结:20 年来云首次革命性变化、大模型才刚刚开始……


老便宜了!字节跳动豆包大模型开始营业,一元钱能买125万Tokens,月活用户量达2600万

OpenAI 官宣旗舰模型 GPT-4o,完全免费、无障碍与人交谈!奥特曼:这是我们最好的模型

你也「在看」吗?👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
演示文生图时出现sleep代码,华为回应造假嫌疑;微软将中国AI团队集体打包到美国;百度ECharts创始人“下海”养鱼|Q资讯要求TD Synnex采纳简单多数可决原则的提案大模型的“瘦身”革命:巨头逐鹿轻量化大模型 | 大模型一周大事为给国资股东交代,创始人把美元投资人“踢”出局了主攻神经介入经桡入路,这家企业如何在两年内实现自研产品商业化?营收暴增近7成近10亿美元,这家企业背后的赛道不能错过让大模型不再「巨无霸」,这是一份最新的大模型参数高效微调综述4人死亡!日本首相发声!这家企业道歉→新加坡顶尖公司排行榜,这家企业连续两年夺冠从创业公司到全球品牌,这家企业仅用了10年双林奇案录第三部之校园疑案: 第三十一节迎来100例患者,这家企业把质子治疗价格打下来了!前端第一可视化库、百度知名开源项目——ECharts创始人“下海”养鱼谷歌下场创立,艾伯维三次押注,这家企业正在加速实现逆转衰老AI早知道|商汤发布日日新5.0大模型;微软推出小语言模型Phi-3;腾讯旗下协作SaaS产品全面接入混元大模型智谱再投AI Infra清华系公司!已在大模型生态投资超13家企业创立18载,这家企业如何在进口垄断的医用植入级PEEK材料市场杀出重围?拜登政府为变性学生保驾护航 马斯克评论“疯了”复活节“宜上班”?英国女子在澳打工,称澳洲假期工资“疯狂”,引发网友热议从专用到通用-预训练大模型和AI agent,浅谈人工智能的趋势和展望英伟达市值一天暴涨1.6万亿,黄仁勋身家超6000亿;阿里降价97%、百度宣布免费,AI大模型价格战“杀疯了”丨AI周报走进北京标杆企业(京东、小米),探秘企业创新管理!工信部工业文化发展中心工业强国“尚工”行动企业家培育计划第三期正在火热招募AI明星创业公司大地震:创始人或淡出,合伙人及多名高管离职;斯坦福AI项目作者对抄袭中国大模型致歉,承诺撤下相关模型丨AI周报骚粉的EF车队今天夺冠清华系创业,这家企业携手腾讯攻克助听器关键技术难题!卷疯了!最强开源大模型Llama 3发布,最大参数4000亿,小扎内心:大模型比元宇宙香多了里程碑!自动驾驶卡车“无人化”要来了?这家企业已商业化先行今日arXiv最热大模型论文:大模型都能怎么用?中南大学最新综述:大模型时代的自然语言处理耕耘生殖健康赛道17载,这家企业为何还要发力再生医学?独立站如何摆脱系统不稳定的“漏洞”?这家企业做到了!「联想新商业创新 生态路演季」圆满收官!高能生态赋能初创企业创新未来中东见闻6 多哈的海滨风景脱胎于国家级课题,这家企业如何实现3D医疗超高速智能打印?斯坦福团队抄袭国产大模型,面壁智能创始人:受到国际认可/百度被《时代》周刊评为全球领导者/特斯拉回应「单踏板模式被禁」传言双林奇案录第三部之校园疑案: 第三十节
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。