酷玩实验室作品
首发于微信号 酷玩实验室
5月30日，非营利组织“人工智能安全中心”（Center for AI Safety）在其官网发布了一封公开信。Mitigating the risk of extinction from AI should be a global priorityalongside other societal-scale riskssuch as pandemics and nuclear war.减轻AI带来的灭绝风险，应该与防范流行病、核战争等其他社会级规模的风险一起，成为全球优先事项。
目前，已经有超过350位AI大佬签署了这封联名信，其中包括OpenAI首席执行官Sam Altman、谷歌DeepMind首席执行官Demis Hassabis和Anthropic首席执行官Dario Amode三大AI公司掌门人，以及一些大学教授、行业专家等。“AI教父”辛顿更是在4月份从谷歌离职，声称AI的发展已经超过人类控制，“我对自己的毕生工作，感到非常后悔。”
4月，OpenAI完成103亿美元融资，估值达到290亿美元。5月，Anthropic、Cohere、Hugging Face、runway等生成式AI公司也都先后获得了上亿美元的融资。昨天（5月31号），李彦宏在摩根大通全球中国峰会上也宣布，百度将设立10亿元人民币的百度文心投资基金，推动大模型生态繁荣，同时启动"文心杯"创业大赛，最高奖项为价值1000万元早期投资。他还表示，“美国开发者正基于ChatGPT或其他语言模型开发新应用”，“中国会有自己的生态系统，拥有自己的大语言模型和基础模型。”一边是不绝于耳的AI威胁，一边是热火朝天的投融资，我们究竟应该如何看待AI的发展？美国时间5月2号，11500名好莱坞编剧集体宣布，我们罢工了。让编剧们“放下笔头，举起拳头”的原因很简单，网飞、迪士尼等流媒体的增长让作家、制片人的薪酬缩水，更重要的是，电影公司正在训练AI进行剧本创作，这意味着，AI将会抢走职业编剧的饭碗。
“不要让AI抢走我们的蛋糕”/ 图源：洛杉矶时报我们日常生活里用到最多的，应该是智能客服，比如推销电话、问题咨询、售后服务等，背后基本都是人工智能客服。尽管一些客服机器人会因为“听不懂人话”而需要人工介入，但因为接待量大、工作效率高，智能客服正在以40%-50%的比例替代人工客服工作。4月份也有媒体报道，因为AI绘画工具的快速发展，原来游戏公司外包一个角色的成本在8000元以上，现在先用AI生成参考图，再交给外包公司精修，成本会降至2000元左右。我尝试了一下用AI作画，只需要几个的关键词就能生成非常符合要求的画作，对于本就比较抽象的游戏原画来说，冲击不可谓不大。即使是一些创作型的工作，在足够成熟的大模型基础上，AI也能胜任。比如前段时间“AI孙燕姿”席卷华语乐坛，就惹得本尊下场回应，“人类无法超越AI技术已指日可待”；还有更早之前，有学生用 AI写论文，因为过于“完美”被教授怀疑，很多学校开始用防火墙来阻止 ChatGPT；甚至现在，直播见里和你互动的主播，都可能是真人的AI分身。美国网红Caryn Marjorie出售AI版本的自己，同时和1000个“男朋友”交往，预计年收入6000万美元，比肩泰勒·斯威夫特。YouTube上有大批博主，教你用ChatGPT“日入5000美元”。国内某知识付费app上，也有人只靠教别人使用ChatGPT，就能月入数十万。短短半年内，生成式AI已经颠覆了很多行业，且正在不知不觉间，以更快的速度，颠覆更多行业。世界经济论坛（WEF）公布一份调查结果也显示，因为 AI 技术的出现，2027年之前，全球劳工市场将陷入前所未有的“动荡的新时代”。全球范围内，8300万个岗位将会消失。19世纪60年代，蒸汽机汽车在英国流行，由于早期的蒸汽汽车犹如一只“行走的锅炉”，常常让路上的马匹受到惊吓，一些马车夫、马车生产商因为害怕失去生意，极力反对汽车的发展。于是在1865年，英国议会通过了《红旗法案》，规定一辆汽车至少需要3名工作人员，其中一个人要在车辆前方50码外挥动红旗，向周围警告风险，且汽车的行进不能超过红旗。结果我们都知道，马车工人依然会失业，而英国错过了汽车产业的先发优势，被德国、法国、美国甩在身后。无论两百年前的蒸汽机，还是今天的AI，每一项新技术的出现，都会带来一定程度的社会变革，它解放了生产力，就一定会导致一些传统的岗位受到冲击。但同时，新技术的发展，必然也会催生出新的业态，释放出新的工作岗位，以适应社会发展的需要。200年前的人们想象不到，飞机、高铁和汽车会满世界跑，正如20年前我们想象不到，生成式AI会强大到比人还像人。你问ChatGPT婚外情，它会告诉你这违反伦理和道德标准；你想越狱、想抢银行，AI也会拒绝回答这些包含暴力、歧视、犯罪意图的提问。问题在于，AI这套行为标准是人类通过不断的“数据喂养”形成的。
反过来，假如你喂养的数据是危险的、暴力的，那么AI就是危险的、暴力的。AI本身没有好坏，但AI背后的人性却是复杂幽深的，这是最近AI诈骗、AI假新闻时有发生的原因，也是众多权威人士呼吁警惕AI无序发展的原因。标准的答案是，让训练AI的人变成圣人，喂给AI的数据，都是经过处理的“正确”数据，从而生成一个完美的大模型。这个答案显然不现实，那就需要用到第二个办法：与“坏”AI打攻防战。比如可以通过技术手段“打补丁”，实现数据安全，像OpenAI 建立了一支“红队”，不断向AI发起“攻击”，以测试AI的不足，从而进行改进；百度的AI安全研究，腾讯安全玄武实验室，阿里安全图灵实验室等，则是国内的“红队”。
大方向上，也可以通过政府监管，来规范行业的发展，像意大利、法国就要求暂时禁止使用ChatGPT；美国正在考虑出台措施监管人工智能；国家网信办也发布了《生成式人工智能服务管理办法（征求意见稿）》，要求可以说是相当“宽松”——符合社会主义核心价值观、遵守法律、尊重社会公德、公序良俗。说白了，现在全世界对AI的态度都非常“暧昧”，既怕它不来，又怕它乱来。生成式AI的强大，源于海量的数据，不断迭代的算法、算力，以及不断“进化”的大模型。当前，在数据样本、算力规模方面，中国和美国处于第一梯队，在应用方面，美国出现了像DoNotPay、Jasper等大量的AI原生应用，诞生了13家独角兽公司（估值达到10亿美元以上），暂时还没有中国公司的身影。至于原因，很多人可能不知道，处理海量数据、训练大模型非常烧钱。GPT3这种千亿级别参数的大模型，一次训练的花销高达千万美元。根据摩根士丹利的分析，ChatGPT每回复一次就会花掉OpenAI 2美分，每天至少要烧掉10万美元。这决定了AI发展除了需要技术的迭代，更需要真金白银的投入，只有财大气粗的“大厂”才有实力搞大模型，而AI应用的落地，前期也必须靠外部融资撑着。首先，百度有文心大模型和百度云的算力资源，创业团队可以在文心大模型这个“基建”上开发各种应用，比如说AI律师、AI问诊，省去了前期的资金和技术投入。其次，大赛邀请了来自IDG资本、百度风投、百度资本的知名投资人与多位百度AI专家共同担任评审，获得一、二、三等奖的团队，将分别有机会获得总值人民币1000万元、500万元、200万元的早期投资。同时，最终获奖的团队，还将获得百度提供的为期一年的AI大模型技术辅导与交流机会。更重要的是，百度这一次还专门设立了10亿元规模的文心投资基金，面向AI领域的潜力股创企，提供资金、技术、业务资源的三重“加血包”，比天使投资还天使投资。中国的用户市场庞大，移动互联网时代，诞生了像微信、抖音、淘宝这些细分领域非常优秀的应用。而在大模型时代，美国已经有了AI律师“DoNotPay”、AI文案“Jasper”，韩国有了AI外教“Speak”，中国也一定会诞生一家甚至几家独角兽公司。未来，随着一个又一个原生AI应用的落地，整个社会将会实现“智能化跃迁”，同时也将催生出更多的新业态，用想象力来解决生产力。最后附上百度“文心杯”创业大赛的报名信息，如果你身边有专注于AI方向的创业者，记得转发给他。
酷玩实验室整理编辑
首发于微信公众号：酷玩实验室（ID：coollabs）
如需转载，请后台留言
分享给朋友或朋友圈请随意
