logo
Redian新闻
>公众号
>
问题明确？微软总裁称目前人工智能最令人担忧的问题是深度造假

问题明确？微软总裁称目前人工智能最令人担忧的问题是深度造假

公众号新闻
前段时间，小编向大家介绍过，随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。
更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，但出乎全球AI关注者的意料的是最近这种能力似乎有了全新的进化。
(GPT-4反思后，准确率为88%，之前为67%)
一名前谷歌大脑研究工程师发现了GPT-4可以合理的方式批评自己的成果，也就是说GPT-4模型已经有了一定的反思能力，这再一次加快了GPT-4模型的进化速度，据相关媒体测试称，有了反思能力的GPT-4测试成功率相较于没有反思能力的GPT-4提升了30%。
但也是由于性能过强超出预想，使得其发展速度可以加重了用户对于个人信息安全的担忧，并且对ChatGPT是否可控提出了质疑。
根据网络安全公司Darktrace公布的最新研究报告，攻击者使用ChatGPT等生成式AI，通过增加文本描述、标点符号和句子长度，让社会工程攻击量增加了135%。
而作为OpenAI的主要投资方，微软的总裁布拉德·史密斯周四表示，他对人工智能的最大担忧是深度造假，随着各式各样的人工智能工具出现，这类看起来很逼真但实际是虚假的内容如今越来越普遍了。
此外，他还呼吁采取措施，以确保人们能够判定照片或视频的真实性。史密斯强调，“我们需要采取措施防止合法内容被篡改，以及防止意图通过使用人工智能进行欺骗的行为。”
史密斯还呼吁支持成立新机构来监管ChatGPT等流行AI，以“承担保护安全、物理安全、网络安全和国家安全的义务”。
史密斯还在演讲中和周四发表的一篇博文中指出，人们需要对AI造成的任何问题负责，他敦促立法者确保对有关民生工程的AI技术进行安全监管。史密斯说：“我们需要更多的实践和监管来确保人工智能在正确的轨道上运行”。
而在此前，人们一直担心AI的潜在风险，包括它对工作的威胁以及错误信息和偏见的传播。意大利数据保护机构表示，意大利不仅会阻止OpenAI 的聊天机器人，还会调查它是否符合通用数据保护条例。
此外，爱尔兰数据保护委员会也表示，该机构正在与意大利监管机构跟进，以了解他们采取行动的依据，来保护本国用户的信息安全。
而近期，据相关媒体报道称，不只是意大利，德国、法国等国家也可能跟随意大利的做法对ChatGPT进行停用，并且德国相关组织表示已经与意大利相关组织进行了联系，并讨论了调查结果。随后欧洲数据保护委员会表示，已成立ChatGPT特别工作组，这可能是朝着制定人工智能隐私规则通用政策方面迈出的重要一步。
目前，全球都在对AI接下来的安全问题进行更多关注，感兴趣的小伙伴可以保持关注。

近期文章精选：

iPhone15将开放高速无线快充？iOS17支持侧载？苹果生态或有新变化

2499元起，小米 Civi 3开箱体验，原生质感人像

2499 元起，OPPO Reno10 系列正式发布，真机上手体验

2299元起，iQOO Neo8系列发布，新机开箱体验

小米Civi3发布会正式定档，外观引人关注！

华为鸿蒙份额达 8%，手机操作系统市场格局再变化


商务合作  [email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
惨！澳人度假“后花园”，中国年轻男女全裸横尸豪华酒店！曾浑身是血爬行求救，死状凄惨！每年数万澳人前往，安全令人担忧暂缓大模型：担忧的科学家，失控的AI丨Future硬核观察 #1013 微软总裁希望控制 AI 以免被俄罗斯、中国等利用震惊！纽约公校食堂卫生状况令人担忧！近400间发现蟑螂老鼠苍蝇常出没...高胆固醇血症定义及分类你是否明确？一起看看欧洲共识怎么说查尔斯加冕礼细节公布,创造多个第一次！但“香肠脚”又引发关注，健康状况令人担忧…早报 | 专家称年轻女性要学会“与狼共舞”；天涯社区官网已无法打开；小鹏总裁称10年内可能仅存10家车企；特朗普回应拜登竞选连任老家的养老院今天人工智能面临的问题和20年前互联网一样长新冠：值得担忧的和过度担忧的全网因为孩子吵起来，最令人担心的事在中国发生了……微软总裁称中国企业是ChatGPT重要对手；文心一言企业服务内测Demo曝光；AI可生成超越自然界新蛋白质 丨AIGC大事日报下岗的洗碗机和殷勤的义务清盘工就连人工智能也建议暂时回避人工智能股票奈雪的茶开启加盟；抖音集团称目前没有申请基金销售牌照；特斯拉创下三个月以来最大单日跌幅……人工智能立法提上日程：兼顾安全与发展，为人工智能治理打下框架性基础发力智能驾驶，华为智能驾驶总裁称其体验明显好于特斯拉为什么有两个复活节—创建公历的目的是什么-----介绍历久弥新的希腊菠菜派马斯克2023年世界人工智能大会演讲：我相信，中国会有很强的人工智能能力！（附视频&演讲稿）令人担忧！新西兰有医院出现大面积技术故障，影响看诊和手术！中国红牛回应被禁止销售；微软总裁称中国将是ChatGPT主要对手；虎牙App被苹果下架；蚂蚁森林否认污染自然保护区...免费ChatPPT来了/ 首例数字人侵权案判了/ 微软总裁炮轰英国...今日更多新鲜事在此马斯克成立xAI人工智能公司：称目标是理解“宇宙的真实本质”“令人担忧！”更多NZ儿童和青少年正用这种药，专家警告：危害很大！加国癌症存活率有所提高 对医疗保健系统的压力令人担忧春樱韩国驻华大使，露出更多令人担忧的侧面！微软总裁：中国将是ChatGPT主要对手/小米MIX Fold 3真机曝光/专家称二次感染新冠风险增加震惊！纽约公校食堂卫生状况令人担忧！ 近400间发现蟑螂老鼠苍蝇常出没....华人聚集区这家公校超14次违规！今年的北京图书节主题明确暂缓大模型：担忧的科学家，失控的AI｜Future张文宏最新发声：做好应对新冠二次感染的准备；中国红牛回应被禁止生产销售；微软总裁称中国是ChatGPT主要对手丨邦早报最不值得担忧的16件事，却占据了我们80%的心智令我们的子孙后代感到发笑的事情微软总裁：中国将是 ChatGPT 的主要对手；Moss 大模型开源；推特正在为百万粉丝账号恢复蓝 V 认证 | 极客早知道
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。