澳洲大富豪竟成“诈骗犯”？！这个技术，实在太可怕了…

公众号新闻

2024-02-04 09:02

（扫码查看更多精彩）

本文转载自：最西澳

一月底，澳洲网上诈骗调查公司Cybertrace发现一个AI制作的诈骗视频正在传开来：视频使用AI技术把许多澳洲富人和政要的脸加了进去，以此骗取信任！

澳洲著名亿万富翁Andrew Forrest成了最大的背锅者。

视频里，AI仿造他的形象来宣传一个欺诈性的股票和加密货币交易计划，并且声称“完全真实且合法”。

企业家Dick Smith、澳洲首富Gina Rinehart、新州前总理Mike Baird、电视主持人David Koch、澳洲财长Jim Chalmers和电视主持人Allison Langdon的形象也出现在了视频中！

视频中，假冒的Forrest不断引诱人们上车，称“计划很快就要满员”“一旦门关上，我就不会再开门了”“如果有人想赚大钱，应该很兴奋”“三分钟赚到的钱足以改变人生”……

AI新型诈骗的套路

如果有人相信了这些广告并点击，就会跳转到一篇诈骗文章，文章假借公众人物的名号声称他们支持加密货币投资或赚钱计划。

用户进一步相信并注册后，填写的私人信息就会被卖给世界各地的诈骗集团，然后受害者就会收到许多电话和邮件，说服他们投资看似合法但完全欺诈的计划。

被盗用形象来诈骗的名人都向Facebook投诉了这些诈骗广告，但这些广告非但没有被下架，还传播了近两年，直到近日传播规模加大才引发了专家的警惕！

澳人每年都被骗走许多钱，2022年被骗走了30亿澳元。

用户损失了金钱，那些在诈骗广告中“被露脸”的名人也困扰频频。他们不时收到信件，信中抱怨道“我听从了你的建议，结果损失了很多钱”，严重损害了这些名人的声誉。

Cybertrace首席执行官Dan Halpin发现这条视频在Facebook等社交媒体上传播开来，有不小的引人受骗的风险！

“这个诈骗广告使用了很多澳洲商业名人和政治名人的形象，让人们因此产生信任，从而成为金融诈骗的目标。”

“肯定有人会被这种以假乱真的高科技虚假信息愚弄。这段视频很长，非常有说服力，看起来就像是由具有营销知识的人创作的，真的很可怕。”

“被露脸”名人的起诉

Forrest本人也知道此事。昨天，他发布了一份声明，对Facebook放任诈骗广告肆意传播的不作为表示失望，并呼吁社交媒体巨头斥资消除其平台上的欺诈行为，以保护用户。

Forrest指控Meta未能阻止欺诈广告的发布，违反了澳洲反洗钱法，还指控Meta放任使用他的形象进行诈骗。

Forrest表示，他代表普通澳人采取了法律行动，以确保大家来之不易的积蓄不会落入骗子手中。

“Facebook市值超1万亿澳元，却故意做出商业决定，拒绝花费软件工程资金升级系统来监测这些AI广告，从而让澳人暴露在被欺诈的风险中，这是应受谴责的。”

“Facebook什么也没做，就放任这些欺诈广告肆虐。我希望我的法律行动能够解决这一问题，让社交媒体平台对他们广告运营的失误负责。”

“2019年的时候，我们第一次要求Facebook对其平台上的事情负责。我们现在仍在坚持这一要求。”

“我希望社交媒体公司积极利用其巨大的资源和数十亿澳元的年收入来保护弱势群体，这些弱势群体是这些可怕骗局的目标，他们辛苦赚来的积蓄就这么被骗走了！”

Halpin也认为社交媒体平台未能给用户提供足够的保护。“世界各国政府需要制定并实施专门针对这些AI宣传诈骗的法律。”

“如果个人和团体用AI制作高仿真的视频来诈骗或混淆视听，平台没有采取合理措施阻止，应该要处罚。”

平台责任之争

除了单独采取法律行动的Forrest，澳洲竞争与消费者委员会（ACCC）也对Meta发起了诉讼，受害名人Baird、Smith和Koch在ACCC的诉讼中担任代表。

ACCC指控Meta协助、教唆或有意参与广告主的诈骗或误导性行为，放任以澳洲名人为主角的欺诈广告在平台上传播，这种行为违反了澳洲消费者法或澳洲证券与投资委员会法案。

ACCC表示，那些关于加密货币投资和赚钱秘诀的广告会误导Facebook用户，让有些用户以为这些赚钱方案真的是那些名人策划出来的。

ACCC还称，Facebook的算法和商业模式是针对那些最易受骗的人设计的。Facebook的算法使广告商能够将诈骗广告推送给最有可能点击广告中链接的用户，给Facebook带来了可观的收入。

ACCC认为，Meta应对其平台上发布的广告负责。应采取更多措施检测并删除Facebook上的虚假或误导性广告，以防用户成为诈骗的受害者。

ACCC主席Rod Sims认为这起诉讼具有世界领先的意义，如果诉讼成功，将开创一个先例，证明Facebook应对其平台上的广告负责。

“如果我们成功了，这意味着Facebook等平台必须做更多的工作来积极保护用户，这对澳人来说将是一件美妙的事情。”

“我们还希望此案例能在全世界范围内产生影响，这样互联网就可以为人类谋福祉，而不是困扰人类。”

但Sims还表示，这起诉讼并不会顺利，诉讼经费可能就要耗掉上百万澳元。

目前，Facebook诈骗广告受害者的报案较少，无法估计诈骗广告造成的损失总额，但Sims估计，受骗额可能已经超1亿澳元了，有个人就因此被骗了65万澳元。

对此，Meta做出了回应，向用户保证将检测并防止垃圾邮件，并提高Facebook的安全性，表示平台也不希望广告试图骗取人们的金钱或误导用户。

“这些虚假广告违反了我们的政策。我们使用技术检测和屏蔽欺诈广告，并努力阻止骗子绕开检测系统作案。”Meta发言人表示。

“我们迄今为止一直在配合ACCC对此事的调查。我们将审查ACCC最近提交的文件，并打算为诉讼进行辩护。”

但去年12月，Meta的律师对这些指控表示不认罪。该案件将于2月9日返回西澳地方法院重新审理。

Taylor Swift不雅照疯传

除了Facebook的这起事件，当红女星Taylor Swift也难逃AI换脸技术的魔爪。近日，由AI换脸生成的Taylor Swift不雅照在X（前身为Twitter）流传，也引发了风波！

1月下旬，运用Deepfake技术制成的Taylor Swift不雅照在X传播开来。其中一则推文浏览量甚至超过4500万次！

Taylor Swift是当今世上最具影响力的歌手之一，全球各地粉丝众多，每次巡演都带来惊人的经济效益，因此难辨真假的不雅照很快流传开来。

发现不雅照传播后，24日起Taylor Swift的粉丝自发举报分享照片的X用户，并在与Taylor Swift有关的标签努力加入正面内容，减少不雅照的曝光。

X官方的处理则慢了一拍，27日起才禁止用户在平台上搜索Taylor Swift并逐步下架不雅照，并对许多违规账户封号。

但由于不雅照传得太广太碎，X也难以把网上流传的每张AI不雅照都删掉……X因此遭到了Taylor Swift粉丝的指责。

眼见也不一定为实，这话在AI时代越来越应谨记。技术发展让各种骗局防不胜防，让人们的金钱、隐私和名誉扫地，在各大平台和法律还没完善相应的管制措施之前，我们只有小心再小心！

今日话题：

对此，你有什么看法？

欢迎留言评论～

- END -

欢迎将文章分享到朋友圈

素材来源：theaustralian、watoday

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章