Anthropic:大模型的欺骗行为难以消除;AI将影响全球近40%的就业岗位,对发达国家冲击最大丨AIGC日报公众号新闻2024-01-16 00:011.【Anthropic:大模型的欺骗行为难以消除】1月13日,AI创企Anthropic于arXiv发表论文。研究表明,一旦大模型学会欺骗策略,监督微调、增强学习和对抗训练等标准的安全技术可能无法消除欺骗行为。不仅如此,对抗训练还可以教会大模型如何更好地隐藏欺骗行为,给人一种错误的安全印象2.【Instagram联创关停旗下AI新闻应用】1月13日,由Instagram联合创始人凯文·斯特罗姆和迈克·克里格创建的AI新闻应用程序Artifact宣布关停,8人团队将解散。该应用于一年前推出,主要业务是利用AI技术推荐用户可能喜欢的新闻,并提供AI总结的文章摘要、AI重写等功能。斯特罗姆在公告中称:“我们已经构建了核心用户群体喜欢的东西,但我们得出的结论是,市场机会还不够大,不足以保证以这种方式持续投资。”3.【Meta承认用盗版书籍训练AI但否认侵权】1月15日消息,据TorrentFreak报道,上周,Meta在加州联邦法院回应几位作家的诉讼时,承认使用Books3数据集的部分内容以及许多其他材料来训练Llama 1和Llama 2,但否认侵权行为,认为使用受版权保护的作品来训练模型不需要经过同意,并拒绝赔偿。Books3是AI研究员Shawn Presser在2020年创建的数据集,他抓取了盗版网站Bibliotik等数据源。4.【国际货币基金组织:AI将影响全球近40%的就业岗位,对发达国家冲击最大】1月15日消息,国际货币基金组织(IMF)近日预测,人工智能(AI)将对全球近40%的工作产生重大影响,发达经济体将受到更大的影响。该分析称,在发达经济体,高达60%的工作可能受到AI的影响,远高于新兴市场和低收入国家。IMF总裁克里斯蒂娜・格奥尔基耶娃警告称,AI可能会加剧收入不平等,具体取决于它如何惠及高收入人群。格奥尔基耶娃表示,高薪职工和企业的生产力提高将提高资本回报,从而扩大贫富差距。5.【英伟达从印度获得巨额AI芯片订单,价值达5亿美元】1月14日消息,印度数据中心运营商Yotta计划向合作伙伴英伟达追加购买价值5亿美元的AI芯片,使双方订单总额提升至10亿美元,助力Yotta进一步强化其人工智能云服务能力。该消息由Yotta首席执行官Sunil Gupta于近日对路透社透露。Yotta去年宣布将订购约16000颗英伟达H100芯片,预计今年7月交付。Gupta表示,此次追加订单将在2025年3月之前完成,包含近16000颗H100和GH200系列AI芯片。更多AIGC资讯……微信扫码关注该文公众号作者戳这里提交新闻线索和高质量文章给我们。来源: qq点击查看作者最近其他文章