ChatGPT被曝“重复漏洞”；华为云推出首个大模型混合云；传Stability AI投资者要求CEO辞职丨AIGC大事日报

科技

2023-11-30 11:11

11 / 30

全球AIGC产业要闻

1、国防部：共同规范发展人工智能军事应用

2、OpenAI成立新董事会 CEO阿尔特曼回归

3、ChatGPT被曝“重复漏洞” 大量泄露训练数据

4、Win11版微软画图集成DALL-E 3

5、DeepMind新AI材料开发工具登Nature

6、AWS发布Titan图像生成及多模态嵌入模型

7、AWS推出模型评估功能预览版

8、华为云推出首个大模型混合云

9、魅族发布AI助手Aicy 搭载Flyme大模型

10、智源FlagScale首次实现大模型异构混合训练

11、传百度智能云AI应用产品部总经理刘倩将离职

12、传Stability AI投资者要求CEO辞职

13、AI创企HeyGen获得560万美元新投资

14、AI创企Together AI获英伟达等7.31亿元A轮融资

15、AI创企Perplexity AI发布两款在线大模型

16、谷歌利用AI检测网络攻击准确率提升300%

17、南洋理工等发布开源大模型综述

18、AI生成图片著作权侵权第一案宣判

1、国防部：共同规范发展人工智能军事应用

今日下午，国防部举行例行记者会，国防部新闻局局长、国防部新闻发言人吴谦大校答记者问。记者问道，近日，有媒体报道称中美可能同意限制人工智能（AI）在不受监督情况下的军用化，请介绍中方在AI军事应用方面的立场。吴谦回答道，前不久，在第三届“一带一路”国际合作高峰论坛开幕式上，习近平主席宣布中方提出《全球人工智能治理倡议》，发出了引领全球AI治理的中国强音。近年来，中国向联合国平台提交了关于规范AI军事应用、加强AI伦理治理等立场文件，坚持建设性参与AI全球治理。中方高度重视AI军事应用带来的安全风险，呼吁各国尤其是大国对在军事领域研发和使用AI技术采取慎重负责的态度，反对利用AI技术优势危害他国主权和领土安全。中方愿按照“以人为本”、“智能向善”原则，与各方加强交流合作，就AI军事应用的发展规范寻求共识，避免相关武器系统的误用、滥用甚至恶用，确保有关武器系统永远处于人类控制之下。

2、OpenAI成立新董事会 CEO阿尔特曼回归

今早，OpenAI官网发布公告，宣布萨姆·阿尔特曼（Sam Altman）重新担任CEO，米拉·穆拉蒂（Mira Murati）仍担任CTO，格雷格·布罗克曼（Greg Brockman）担任总裁；成立新的初始董事会，布雷特·泰勒（Bret Taylor）担任主席，其他成员包括拉里·萨默斯（Larry Summers）和亚当·迪安杰罗（Adam D'Angelo）。

阿尔特曼和泰勒还发布了全员信。信中，阿尔特曼称自己热爱并尊敬伊利亚（OpenAI前首席科学家），正在讨论如何让他继续在OpenAI工作。他提到OpenAI现在有三个当务之急：1、推进研究计划并进一步投入全栈安全工作；2、持续改进和部署产品并服务客户；3、建立一个具有不同观点的新董事会、改善治理结构以及监督对最近事件的独立审查。

泰勒提到了董事会的计划，包括：1、建立一个由杰出人士组成的合格、多元化的董事会；2、进一步稳定OpenAI组织，召集董事会独立委员会来监督近期事件的审查；3、加强OpenAI的治理结构。

3、ChatGPT被曝“重复漏洞” 大量泄露训练数据

昨日，谷歌DeepMind等联合发布论文，通过“重复单词”攻击使ChatGPT泄露训练数据。论文作者通过让ChatGPT重复同一个单词，以大约200美元的成本提取了几MB的训练数据，并估计如果花费更多资金，有可能从中提取出大约1GB的数据。论文作者对此提出了几点思考：首先，仅测试对齐模型可能掩盖了模型中的漏洞，特别是因为对齐很容易被打破。其次，这意味着直接测试基础模型非常重要。第三，必须在生产环境中测试系统，以验证建立在基础模型之上的系统是否充分修补了漏洞。最后，发布大型模型的公司应寻求内部测试、用户测试和第三方组织的测试。作者提到，他们在7月11日首次发现这个漏洞，并在8月30日向OpenAI披露了论文的草稿副本。但根据社交平台X上的一些网友反馈，该漏洞目前仍未被修复，以一定概率出现。

攻击示例记录：

chat.openai.com/share/456d092b-fb4e-4979-bea1-76d8d904031f

论文地址：

arxiv.org/abs/2311.17035

4、Win11版微软画图集成DALL-E 3

据外媒Windows Latest昨日报道，微软在Window 11上推出了集成DALL-E 3的画图（Paint）软件升级，此功能可通过画图中的“Cocreator”按钮使用，工作方式类似于Bing Image Creator和ChatGPT Plus的DALL-E。

5、DeepMind新AI材料开发工具登Nature

今日，谷歌DeepMind的AI材料开发工具GNoME研究成果登上国际顶刊《自然》（Nature）。据介绍，论文分享了220万个新晶体的发现，相当于近800年的知识，其中有38万个是稳定的，成为实验合成的可能候选材料。DeepMind称，他们将预测为稳定的38万种材料贡献给“材料计划”，该计划正在处理这些化合物并将它们添加到在线数据库中，希望这些资源能推动对无机晶体的研究。此外，劳伦斯伯克利国家实验室的研究人员还与DeepMind合作，在《自然》杂志上发表了第二篇论文，展示了AI预测如何用于自主材料合成。

论文地址：

nature.com/articles/s41586-023-06735-9

nature.com/articles/s41586-023-06734-w

6、AWS发布Titan图像生成及多模态嵌入模型

当地时间11月29日，AWS（亚马逊云科技）推出两个全新的Titan多模态基础模型：Titan图像生成器（Amazon Titan Image Generator）预览版、Titan多模态嵌入（Amazon Titan Multimodal Embeddings）。据介绍，Titan图像生成器的图像编辑功能包括使用内置分割模型通过文本提示自动编辑图像的能力，支持使用图像蒙版进行修复，以及用于扩展或更改图像背景的修复，还可以配置图像尺寸，并指定希望模型生成的图像变体的数量。此外，用户可以使用专有数据自定义模型，以生成符合要求或特定风格的图像。Titan多模态嵌入支持提交文本、图像或两者的组合作为输入。该模型将图像和最多128个标记的简短英文文本转换为嵌入，从而捕获数据之间的语义和关系。

7、AWS推出模型评估功能预览版

当地时间11月29日，AWS宣布旗下大模型托管平台Amazon Bedrock推出模型评估功能预览版，提供自动和人工两种选择。用户可以使用预定义的度量标准（如准确性、鲁棒性和有害性）进行自动评估；对于主观或自定义的度量标准（如友好性、风格和与品牌语音的一致性），可以通过几个简单的设置进行人工评估。

8、华为云推出首个大模型混合云

据华为云微信公众号发文，今天，华为云行业高峰论坛2023在北京开幕。会上，华为云推出业界首个大模型混合云，并发布《深度用云展望2025》白皮书及深度用云行动计划。同时，华为云提出深度用云行动倡议，并联合10+伙伴和行业组织，共同发起深度用云行动计划，计划未来三年投入1亿人民币，用于能力型伙伴建设、云原生应用开发、行业专家培养、行业标杆打造等领域。

9、魅族发布AI助手Aicy 搭载Flyme大模型

今日，魅族在武汉举办了生态新品发布会，会上发布Flyme AI大模型，并应用在Flyme AR系统中。Flyme正式更名为FlymeOS，中文名为无界，魅族对它的定位是全场景AI操作系统。此次魅族发布了Flyme 10.5版本，搭载智能助理Aicy。在AI大模型加持下，Aicy支持知识问答、文案创作、文生图、图片风格转换、AI搜图等功能。在车机场景中，Aicy可以提供交规咨询、车辆维保等服务，也可以为用户推荐行程，并直接在车上进行导航。

10、智源FlagScale首次实现大模型异构混合训练

据智源研究院微信公众号今日发文，智源团队通过升级FlagScale大模型并行框架，率先实现了在英伟达异构集群的混合训练，并通过与天数智芯团队合作，也实现了在天数智芯异构集群的混合训练；验证了异构并行训练方案在70B大模型训练上、在多种不同资源混合场景下的有效性，并通过FlagScale项目开源了所有实现代码、优化算法、超参数配置等，为业界提供可靠的参考基线。同时，智源团队开源了使用异构混合方法训练得到的Aquila2-70B-Expr（异构实验版）系列模型，补齐70B参数量级中英双语大模型的缺口。

FlagScale开源项目地址：

github.com/FlagOpen/FlagScale

Aquila2-70B-Expr模型开源地址：

github.com/FlagAI-Open/Aquila2

11、传百度智能云AI应用产品部总经理刘倩将离职

据AI科技评论今日报道，现任百度智能云AI应用产品部总经理刘倩将离职。离职之前，刘倩向百度智能云副总裁朱勇汇报，主要负责百度智能云的智能客服、数字人、AI中台、知识中台等企业级产品及解决方案。据悉，刘倩在2011年就加入了百度，2020年成为百度AI技术生态部总经理，并在今年年中升为AI应用产品部总经理。在职期间，刘倩曾负责百度大脑及飞桨等平台化开放及生态建设，并将百度大脑开放平台打造成为中国应用规模最大的综合AI开放平台，覆盖了从数据、算法、计算到感知层、认知层、平台层、生态层、应用层的不同能力层面的技术布局，共开放1400多项AI技术能力。

12、传Stability AI投资者要求CEO辞职

据彭博社今日报道，英国AI创企Stability AI面临投资者对其财务状况的质疑，其CEO被要求辞职。几位知情人士透露，最近几周，Stability AI将自己列为收购目标，并与多家公司进行了初步接触。但他们称，交易不会很快达成，公司也有可能在不出售的情况下提前终止这一过程。Stability的一位发言人对此回应：“虽然有几家公司对收购Stability AI表示有兴趣，但我们并不打算出售公司，而是专注于推出领先的模型”。此外还有知情人士透露，领投了该公司种子轮融资的Coatue Management在上个月致信管理层，要求CEO埃马德·莫斯塔克（Emad Mostaque）下台。Coatue在信中写道，莫斯塔克的领导风格导致了几位高级经理的离职，并使这家初创公司陷入了不稳定的财务状况。

13、AI创企HeyGen获得560万美元新投资

昨晚，AI创企HeyGen宣布即时头像功能升级至Avatar 2.0，只需5分钟就可在移动设备或笔记本电脑上创建一个高端头像。此外，HeyGen还宣布获得560万美元（约合人民币3990万元）的新风险投资，由Conviction Partners领投，本轮融资使其估值达到7500万美元（约合人民币5.34亿元）。作为交易的一部分，Conviction Partners创始人Sarah Guo将取代红杉中国获得董事会席位。

14、AI创企Together AI获英伟达等7.31亿元A轮融资

当地时间11月29日，美国AI创企Together AI宣布获得1.025亿美元（约合人民币7.31亿元）的A轮融资，由凯鹏华盈（Kleiner Perkins）领投，英伟达、Emergence Capital等跟投，资金将用于加快实现为生成式AI应用程序创建最快云平台的目标。Together AI成立于2022年6月，致力于贡献领先的开源研究、模型和数据集，并提供分散式云服务以助力各个规模的组织训练、微调和部署生成式AI模型。

15、AI创企Perplexity AI发布两款在线大模型

今日，AI创企Perplexity AI发布两款在线大语言模型pplx-7b-online和pplx-70b-online，并通过pplx-api公开提供，用户可以通过Perplexity Labs访问。据介绍，这两款模型基于开源基础模型mistral-7b和llama2-70b建立，通过微调使其联网并改善了幻觉问题。Perplexity AI成立于2022年，创始团队包括微软、谷歌、OpenAI等科技公司的前研究人员，专注于开发传统搜索引擎的替代品。

试用地址：labs.perplexity.ai

16、谷歌利用AI检测网络攻击准确率提升300%

当地时间11月29日，谷歌宣布在西班牙马拉加开设谷歌安全工程中心（GSEC），同时发布了一份报告，解读AI如何帮助加速威胁检测和缓解。报告称，与传统技术相比，AI在检测恶意脚本针对具有常见漏洞的设备的尝试方面，准确率高出300%。

报告地址：

assets.virustotal.com/reports/2023-ai

17、南洋理工等发布开源大模型综述

据外媒AIDB报道，昨日，来自南洋理工大学、Salesforce研究院、新加坡科技研究局等机构的研究人员发布了一篇开源大模型综述，在ChatGPT发布一周年之际，综合研究了对标ChatGPT的开源模型。论文指出，相比之下，开源大模型比闭源大模型进步更快，也面临着数据污染、预训练预料透明度等挑战。此外，从安全角度来看，GPT-3.5-turbo和GPT-4目前被评为顶级。

论文地址：

rxiv.org/pdf/2311.16989

18、AI生成图片著作权侵权第一案宣判

据知产库报道，11月27日，北京互联网法院针对AI生成图片著作权侵权纠纷作出一审判决，据悉该案为AI生成图片相关领域著作权第一案。原告李某使用AI生成涉案图片后发布于小红书平台；被告系百家号博主，发布文章配图使用了原告该AI生成的图片，原告遂起诉。北互审理认为涉案AI生成图片具备“独创性”要件，体现了人的独创性智力投入，应当被认定为作品，受到著作权法保护等。根据判决，被告需在社交平台公开道歉不少于24小时，并赔偿原告经济损失500元。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章