看到这视频我更觉得恐怖！
这两天刷到个视频，简直太牛了。
原本是觉得诧异。
想不到霉霉还能讲出这么字正腔圆的普通话，差点以为真的全世界都在讲中国话。
紧接着看下去才发现，我被骗了。
原来这是AI做完配音的效果。
你会发现，只要能给出地道的翻译，再通过声音采样来造出AI模型，最后捏出适配声音的口型，技术立刻可以做出以假乱真的翻译视频。
细看确实没啥瑕疵，完全能取而代之。
而且不仅能英译中，中译英也不在话下。
吐槽大会的海外会场这不就开起来了吗？
就连彪哥都讲起了流利的英语，伦敦即将成为东北人的第三故乡。
有了这样一套技术，你会发现做翻译配音仅仅是最初级的东西，只要提供文字和音频采样，AI几乎能够做出任何想要表达的内容。
只要你想，视频里的人就能用任何形象、任何语气、任何音色，自动说出你想要的话。
“以前说无图无真相，有图也不一定有真相，现在轮到视频也不代表真相了。”
所以这两天也挺多人都在讨论这事的。
有人觉得配音演员马上就会下岗了，内娱明星有了新的“背后靠山”。
反正就算是真人配音也会因为各种原因无法表现出最好的情绪，那换成AI配音也没差。
再进一步，感觉大家都不用演戏了。
说不定，AI比人会演。
一些人担心被AI技术冲击到的岗位越来越多的，等待我们的或许就是一个被AI统治的未来。
但也有人挺乐观，称这项技术是赛博巴别塔。
重新把语言不通的各国人群汇聚了起来。
以后说不定根本就不用学语言了，反而AI会搞定一切，让大家没有隔阂地交流。
但是。
既然“你现在想让他们说什么，他们就能说什么。”那么，谁又能保证你听到的就是对方表达的呢？
所以其实我看到这个东西感觉挺惶恐的。
如果声音和口型都能造假，那其它的呢？
外表？
动作？
表情？
如果“AI可以用你的声音，你的形象，说出任何话”，那谁又会知道你到底说了还是没说呢？
文字可以编造，图片可以伪装，现在就连视频都能够凭空生成，不值得信任。
那还有什么能代表真相呢？
会不会有天我们看到的一切都是假的呢？
那又有什么是值得信任的呢？
我们不妨设想一些场景。
现在年轻人都在外工作，留下父母在老家，平时沟通全靠网络一线牵，最常用的就是视频通话。
要是这视频被伪造了呢？
当父母远在千里之外，突然接到你的求助电话，紧张不安地说自己遇到了麻烦，缺钱花，希望他们能帮帮你，父母会是什么反应呢？
着急之下，他们除了先打钱还能做什么呢？
你看，联系方式是平时的联系方式，视频对面的人是他们熟悉的你，说话的声音也没有区别，他们除了担心，又怎么会怀疑你不是你呢？
毕竟父母对这些科技知之甚少，很难防备啊。
还有很多可能。
如果有不安好心的犯罪分子掌握了你的形象，以及更多的身份信息呢？
他们完全可以拿着你的身份去网恋，去裸聊，去当做杀猪盘的素材，去搞诈骗，去犯罪。
反正这些事现在都可以通过网络来完成的，套上AI这个壳子，他就成了你啊。
而且这AI都可以做任何表情和动作了，直接解锁什么银行卡的面部识别信息，恐怕也不在话下吧。
要是直接以你的名义去贷款，然后把钱卷走后，留下一屁股债。
你又该如何应对呢？
恐怕要等某天突然有人敲开大门来讨债，才知道真相吧。
要是那些公众人士被AI化就更麻烦了。
你看现在电视上那么多明星代言卖货直播的，好多人趋之若鹜，可万一那些视频背后不是本人，而是AI伪造出来的呢？
反正输入什么，AI就能说什么。那某些三无产品啦金融产品啦，岂不是想让谁站台就能让谁站台，谁更有号召力就让谁来代言。
主打一个无法无天。
搞不好还有人趁机打着某些公众人物的旗号，去到处寻求合作，让人家先交定金。
或者私下搞些传销传教之类的违法活动。
反正这种大名鼎鼎的重要人物肯定是见不到面的，只有视频让大家沟通也很合理啊。
谁知道剥开AI那层皮，里头到底是谁呢？
更糟糕的。
如果不法之徒掌握了某些重要人士的形象，他们完全可以躲在背后，以这些重要人士的身份去发言很多重要言论，来引导舆论，重塑规则。
感觉世界都要乱套了。
还可以多想一层。
万一有人用魔法来对抗魔法呢？
比如故意露出破绽，让人以为视频是AI做出来的效果，好显得自己是被陷害的无辜。
但其实，根本就是本人的千层套路？
而且，现在的技术肯定不是AI的巅峰，再这么发展下去，搞不好还能结合全息，搞出那种肉眼都分辨不出来的效果，一个人眨眼就变另一个。
那时候，别说影像了，眼见都不一定为实。
我站在我妈面前，我妈可能还得和我对上八百个暗号，才能分辨出来我到底是我，还是骗子。
光是想想，就觉得更毛骨悚然了。
说这么多，不是我危言耸听，更没有杞人忧天，现在国内外都已经有很多案例了。
有的仅仅依靠AI配音，就能大骗特骗。
美国CBS电视台做过一期节目，现场展示黑客通过克隆声音来窃取信息的过程。
整个过程可谓是迅雷不及掩耳之势。
仅用了5分钟，对方就通过AI克隆的当事人的声音，并且通过工具替换了手机来电显示，从而成功骗过了身边的人，获取了相当多私人信息。
国内的“靳东”骗局也一直存在。
很多直播间循环播放着明星的视频，再加上后期配音的旁边，就吸引了很多阿姨的关注。
阿姨们听到声音误以为这就是真的明星，没想到都是骗子利用AI软件模拟出来的声线。
目的当然只有一个——骗钱。
有人胃口更大，不甘心只骗普通人的小钱，还要骗公司的大额投资。
于是伪装出男明星的声音去谈合作，好在公司比较警惕，才没能让对方得逞。
现在又有了AI在视频方面的辅助，骗子更是如鱼得水，让人防不胜防。
前几天看综艺，黄晓明说曾经发现自己在不知情的情况下，给某个品牌代言了。
不仅有自己和刘亦菲参加品牌活动的视频，还在现场讲了很多品牌相关的内容。
但他本人对此却毫无印象，就很恍惚。
后来才知道，这视频是用AI做出来的，发言也都是AI操作的结果。
连本人都差点被忽悠，何况看视频的其他人呢？
现在某些直播间，开始用AI换脸明星搞带货。
不知情的人看了又怎么能区分呢？
国外也一样。
斯嘉丽前几天告了一名AI程序开发者，因为对方直接用她的形象和声音来打广告。
明明是《黑寡妇》的幕后花絮，摇身一变，就成了AI程序的宣传广告。
好一个偷天换日。
网络上本来就很容易出现那种看图说话的假消息，经常一张图下去八百个故事就编出来了。
如今有了AI技术，你想编什么故事，它就给你凭空造出什么，真与假、是与否的边界更加模糊。
反倒更方便了造谣传谣的人，
也给了不法之徒发挥空间。
有人分享过更恶劣的被骗经历。
骗子截取到他的人脸识别视频，然后利用AI换脸技术，拼接出一段裸聊视频，然后威胁当事人要把这视频群发给他的通讯录好友们。
即使当事人知道自己并没做过这样的事，也会在一瞬间陷入恐慌，然后被骗子榨干价值。
或许你会说不要相信网上那些人就好，但是万一AI伪装成你熟悉的人来寻求帮助呢？
福州的郭先生就遇到过。
一位好友打来微信视频，请求帮助。虽然对方一开口就是430万这样的巨款，但微信视频已经打消了他的怀疑，他二话不说转了钱。
哪知道，这年头视频也能造假。
视频对面的也不是真朋友，而是披着AI外皮的骗子，只是用了换脸和拟声的手段。
说起现在这些套路，就连年轻人都难分辨，每每看到都要感慨一句，学无止境。
要是那些本就对网络科技知之甚少的老年人碰到，就更容易上当受骗了。
反倒是骗子，总是走在学习新技术的前沿。
虽然都说互联网是虚拟的，但很多时候构建起互联网的底层逻辑却是真实和信任。
这下可好，人与人的信任岌岌可危。
“科学技术是第一生产力”，这当然是事实，毕竟我们直白地享受着科技发展带来的好处。
与此同时，我们不该忽略科技可能带来的破坏性。伴随着高速的科技发展，社会结构迎接着巨大冲击，固有的生产模式更频繁地遭遇被淘汰的命运，无法及时跟上发展的人经历着动荡。
这里牵涉到的问题依旧是，该让科技去适应人类，还是人类来适应它？
AI技术现在所引发的争议源头也在于此。
有人为它的出现欣喜若狂，迫不及待地畅想更多的可能性；同时也就有恐慌AI大规模运用后可能导致的连锁反应，担心个人风险与安全。
这些情绪都很正常。
科技的发展，总是伴随着对科技的担忧。
照相机曾经被视作摄取魂魄的怪物；
手机在普及阶段有过“致癌物”的标签；
线上支付刚出现时，不少人担心“唰”得一下，钱就被转走了，太过随便，也太过儿戏；
转基因食品被认为会破坏人体本身的基因；
尽管某些传闻听来甚为荒谬，却的确可能成为某些人犹豫和拒绝的真实理由。
只是现阶段，话题的主体变成了AI。
如果用错地方，它可能带来可怕的后果。
但只要使用得当，它也能是很好的工具。
它能写报告、查资料、画PPT。
它能提供不同的视角，把规律解构成套路，总结出一套供人使用的模板。
偶尔，它也能提到抚慰人心的作用，比人类咨询师更称职，还不用担心它会泄露秘密。
你和它吐槽某个人或某件事，它不会发疯怼你，只会附和你的发言，顺应你的情绪。
你和它抱怨某件事做得不好，它也会提供安慰和方法，而不是让你在自己身上找问题。
哪怕它说不懂爱，也能讲出超越爱的发言。
我们总说科技的发展是双刃剑。但它的剑刃究竟指向哪方，是由人来决定的，而非由技术。
所以，比担心AI技术的失控与风险更重要的是，加强对AI生成内容的监管，增加限制。
总好过让它不受约束地自由发展。
毕竟现实中，开锁的师傅都得去公安局备案，更何况是这些更不受控的内容呢？
坦白说，我总觉得现在AI技术的发展依旧还在起步阶段，它的未来还存在更多的可能。
如何模拟出更“逼真”的人类，如何创造出更“真实”的影像，仅仅是AI大课题下微小的一部分。
它或许该有更高阶的思维和灵动的算法，来制造出更多意想不到的惊喜。
但无论怎样发展，科技都应该服务于人类，带来更积极更正向的结果。而如何引导科技走向正确的方向，同样是不容忽视的重要课题。
微信扫码关注该文公众号作者