logo
Redian新闻
>公众号
>
你在网上关注的美女，可能都是AI生成的

你在网上关注的美女，可能都是AI生成的

其他





最近，有人宣称，要在苏州的金鸡湖上开游艇趴，报名费3000块，每名参加者都会配备“随身女仆一名”。
 
 
举办者还附上了部分女仆的照片，看着很顶，但也很奇怪，因为有几位“女仆”的手指扭曲得不合常理。
 
 
后来事儿闹大了，警方介入，才发现这些女仆照片，居然全都是用AI生成的。
 
而诸如此类利用AI以假乱真的例子，在过去的一年里可谓屡见不鲜，一再刷新着我们对“真实”这两个字的认知。
 

你所爱恋的，都是幻象
 
今年2月，海外多家媒体发文，称付费色情平台OnlyFans可能会在不远的未来，被AI创造的色图所冲垮。
 
媒体说这话的原因，是因为在推特平台上，有一个名叫“heartereum的”用户上传了数张由AI所生成的美女图片。
 
 
乍看上去，图里的小姐姐们与真人别无二致。
 
只有仔细观察，你才能发现她们身上的一处处“不协调”，然后才意识到这些辣妹，其实都只是精致的“人类模仿品”。
 
 
虽然人是假的，但色却是真的，就像下面这哥们所说的那样：
 
 
不过OnlyFans的从业者倒是不担心会被AI模特抢走工作，平台知名艳星Laura Lux表示，她赚钱的点不仅是裸露，还在于与粉丝的亲密互动，这一点，AI是无法胜任的。
 
在几乎同一时间节点，国内的网络上也出现了一套由AI生成的小姐姐Cosplay图。因其过于逼真，而被B站的审核直接分类进了“仿妆Cos区”。
 
·Ai生成的cosplay照，角色是《明日方舟》里的缄默德克萨斯，创造者：勘云工造
 
这事儿充满一种“齐马蓝式”的科幻寓言感：
 
人类用PS修图，努力将自己的面容P到完美，而AI却努力去模仿真人脸上的复杂与瑕疵，最后二者实现了某种动态平衡。
 
·男生也可以，创造者：海辛Hyacinth
 
创造这套图的，是国内的博主“勘云工造”。在他的微博时间线上，技术的迭代似乎每隔几天就会出现一次。
 
 
当漂亮的写真可以被人工智能愈发完美地一次次复现时，你可能就无法意识到，小红书上那个名叫“爱旅游的小多”的美女博主，其实只是一个由AI所缔造的存在。
 
 
德国的ColorDigital，已经开始组建自己的“数字模特营销团队”，用被生成的、身材完美的AI模特，来给各种潮牌做宣传。
 
·AI生成的
 
而要说AI合成图像最近最狠的一次应用，那还得看Youtube博主Kyle Vorbach——这哥们决定在社交媒体上，利用AI伪造出自己一个月的全部生活。
 
 
最开始，他只是在Instagram上生成了一张自己从未拍过的自拍照。
 
·AI合成的
 
然后，Instagram上的照片变成了小哥穿上了万圣节的服装；变成了他前往了纽约街头，见到了自己的好友——当然，这一切都是假的。
 
然而，它们却成功骗过了小哥的朋友们。他们以为他真在纽约，有人甚至都准备打扫屋子迎接他了。
 
·AI合成的
 
之后，小哥开始让AI去完成它更多的幻想：他成了成功人士，搬到了纽约，和自己的爱犬住进了漂亮的公寓，在街头偶遇名人……
 
·AI合成的
 
在千万次的训练下，AI创造出了一条完全平行的时空线，在那些真的可怕的合成照片里，小哥甚至开始觉得，机器所合成的他，似乎就是真正的他。
 
诸如此类的案例，正变得越来越多，而许多本不该被击穿的“真实底线”，也开始遇到了数字虚拟的全面刺破——有人开始用AI生成的作品沽名钓誉，甚至开始搞数字诈骗。
 

你所看见的，都是虚假
 
从去年10月开始，Instagram上火了一个叫Jos Avery的摄影师。
 
 
这个Jos，以其精湛的人像摄影，在短时间内征服了3万多名粉丝。
 
并且，面对摄影新人的请教，Jos还贴心地指导他们：“我这张照片，是用尼康D810拍的，用的是24-70毫米的镜头。”
 
然而在一段时间后，Jos本人实在忍不住，向Ars Technica的记者坦言：“其实我根本就不是什么摄影师，这些人像都是我用AI生成出来的。”
 
 
这不禁让人想起国内最近有个知名的画师，因被曝出用AI绘画而塌房，让许多模仿他作画的萌新失去了继续画下去的动力，也让许多网民开始了一场赛博猎巫——逼画师们自证在绘画中没用过人工智能辅助。
 
 
与之类似，当人类的容貌，可以被机器在短时间内创造出成百上千张，就会有像Informa Systems 这样的企业，用生成的脸孔创造假的员工，让公司看上去有一个人数众多的专业团队。
 
 
同一时刻，Facebook的母公司在去年底表示，在它们2022年的取缔活动中，有三分之二的违禁账户，用的头像是AI生成的。
 
 
这并不让人感到意外，因为在2022年的一篇论文里，研究者发现有3成到5成的美国人，根本就无法在真实脸孔和用DeepFake所生成的虚拟脸孔间做区分。
 
所以在TikTok上，由AI合成的明星整活儿类视频遍地都是，难辨真假，比如下面的这个基努里维斯：
 
 
对于骗子来说，DeepFake实在是一件的趁手的工具。
 
去年8月，有个诈骗团队就利用DeepFake，伪造出一张数字货币公司高管的脸。骗子将这张假脸套在自己的面部，然后通过在线聊天软件Zoom，去和那些项目团队的成员开会，让他们以为自己正在和大公司的负责人对接。”
 
 
被“偷脸”的这位高管表示，这群骗子的技术很厉害:“他们唯一没模仿出来的，就是我在疫情期间胖出来的那15磅。”
 
不止面孔，像Midjourney这样的图像生成AI，甚至会影响你对这个世界的认知。
 
譬如去年9月26日,东京时间凌晨4点39分，有一名家住东京的推特用户，发了三张静冈县遭遇水灾后的惨状。
 
 
该贴被迅速转发，许多网友又是震惊不已又是要筹措捐款。
 
结果在推文发出11小时后，原作者道歉，称静冈发水灾是真的，但灾情图片却是他用AI做出来的。他也知道撒谎不好，但就是舍不得海量的推特转发和点赞。
 
无独有偶，在今年2月初的土耳其叙利亚大地震后，也有人在网上用一张“地震现场的救援图”来号召爱心人士们捐款，结果立刻就被眼尖的网友扒出来，说这图上的人有六根手指，应该是用Midjourney做出来的。
 
 
而当被AI生成的图像，配合上同样被AI生成的音频与文字时，那你所理解的一切真实，就将会迎来一场彻底的崩塌。
 

你所相信的，都在崩塌
 
在以假乱真这个层面，AI合成的音频丝毫不逊色于图像。
 
上个月， ElevenLabs发布了自家的语音合成平台，原本是帮助电影和游戏配音，结果很快就被网友们拿来合成“比尔·盖茨称新冠疫苗会造成艾滋病”，以及“艾玛·沃特森大声朗读《我的奋斗》”。
 
而早在去年12月，中国台湾的刑事局就已经破获了一起AI语音诈骗案。
 
 
骗子先以5万新台币的价格从科技公司购入诈骗电话的AI模组，然后在8个月的时间里群发上百万次，赚了2700万新台币的赃款。
 
而当AI合成视频加上了AI合成音频，你便能在社交媒体上刷到埃隆·马斯克在镜头前忏悔自己吸毒过量，知名电台主持人乔·罗根（Joe Rogan）教观众如何去亚马逊购买他推荐的壮阳药。
 
 
在算法的加持与混淆下，那个“将名人的话语奉为真理”的时代正在离我们远去。
 
这还没完。
 
前些日子，ChatGPT正好在情人节前后大火，加拿大反欺诈中心便趁此机会警告世人：未来操纵感情杀猪盘的，很可能就是这些聪明的聊天AI。
 
 
而安全公司McaFee的研究则表明，10个人里有7个都会把AI生成的情书，当成是真人所撰写的甜言蜜语。
 
与此同时，美国知名科幻杂志《克拉克世界》被迫暂停投稿渠道，只因他们在短短一个月内，接到了500多篇由AI所生成的小说稿件。
 
·"目前已关闭稿件提交，原因不难猜出”by 克拉克世界
 
欧洲执法组织去年9月预言：“到 2026 年，全网有多达 90% 的在线内容可能是合成生成的。媒体将大多由人工智能生成与操纵。”
 
当然，为了防止以后互联网上“无内容可信”，各国也想出了相应的对策——利用一套专门用来打假的AI。
 
像韩国就声称将在2月的月底，用AI来辅助侦破电信诈骗案，而创造了ChatGPT的OpenAI，最近刚研究出了一个专门鉴别ChatGPT的AI。
 
 
这就让以后的互联网，变得越来越像一个AI神仙打架的地方了，变成了一个巨型的类生成对抗网络，而所谓的真假，不过是用来证明哪方AI更强的一个标准。
 
 
况且，根据去年12月安永发布的一篇文章，许多用来训练AI的数据，本身也都是虚构出来的。
 
像现在一些顶尖的汽车公司，就用随机生成出来的模拟路况来训练自动驾驶，而药企则用千万个用随机数据做出的病历，来进行非物质层面的临床实验。
 
相对于参考真实的案例去开发，AI生成确实节省了大量的成本，也能将许多罕见的极端情况考虑在内。
 
·模拟驾驶环境
 
而我们也因此终于，走进了那片被《黑客帝国》称为“真实的荒漠”的地方。
 
在那个地方，真实被AI托管，网络上的种种欺诈，像一个个被精心策划的真相，没有真与假，只有神经网络与复杂的算法。
 




设计/视觉  Elaine

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
“奶茶杯”、“可乐罐“……它们可能都是残害青少年的这个东西！明年的新 iPhone 和 Android 旗舰，可能都会标配这个新功能你昨晚关注的那个福利姬，可能是假的。剪发快查钱包！加拿大两种硬币获奖！世界各地收藏家可能都想要私密照被拿去抵赌债？张继科被曝出的瓜，景甜可能都知道……锡克庙New Year Resolution--2023普通人成功的秘诀，可能都在手上……有30万人，在网上羡慕别人的书房你高价抢的网红“无菌蛋”，可能都是智商税每个女性的一生，可能都会经历这3个难题 | 咨询师请回答花60元，我在网上找文豪写了篇年终总结迷路的人，在网上找家小学生可能都比你有哲学高度经济学人科技 || 动物的性取向：远古时可能都是双性恋AI画的美女，都有1.5万粉丝了？！​​你看到的网络美女，可能是个AI涉黄骗局税务局建议你在网上报税 以下是如何使用最新的NETFILE枕头只是用来枕“头”的？这么多年你可能都用错了节日早餐~~~~​这些澳洲司机可能都偷偷干过的行为，竟然违规！还将面临巨额罚款！AI画的美女，在小红书上有1.5万粉丝了​​首个由人工智能生成的游戏和电影问世，探秘生成式 AI 如何发展（附相关人工智能产品集）被艾薇儿飙脏话痛骂的美女，赤裸上身把自己锁在特鲁多办公室门口全球90%芯片产能都是10nm以上工艺这一幕，马克龙自己可能都没有想到！渡十娘｜​酒店进大学招洗碗工，1158万毕业生不可能都当白领被历史终结了的“文革”风云人物朱永嘉，为何去世却在网上引起巨大争议？国民下饭剧，放到今天可能都不能过审手把手教您如何在网上缴纳房地产税在网上买到了隆鸟神器后，哈哈哈哈哈哈大为震撼！！拜登总统在民主峰会视频全体会议上关于民主能够针对全球挑战取得成果的讲话对中国军事包围网，美国填补上关键缺口梅西队友的狗血剧
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。