ChatGPT大热，基于虚假信息和数据的AI却很可怕......

2023-02-20 07:02

导读

连日来，ChatGPT在中国大热。然而，这枚“硬币”的反面却值得警惕。美国政府可以非常简单地对其加以利用，把人工智能用于传播虚假信息、操纵舆论叙事以谋求地缘政治利益。而这种情况也不是第一次出现了。中国日报起底工作室将在本期视频中揭露美式“人工智能”背后的丑闻。

带有偏见的人工智能

ChatGPT是由OpenAI开发，并于2022年11月推出的聊天机器人。这款AI软件是有偏见的，而且可能在西方舆论宣传活动中扮演重要角色。

ChatGPT自己也承认它是带有偏见的。ChatGPT的准确性只与它接受的训练数据相关。OpenAI甚至承认，ChatGPT可能会给出有害指令或带有偏见的回答。

ChatGPT itself admits it's biased. ChatGPT is only as good as the data it trained on. OpenAI has even agreed that ChatGPT may produce harmful instructions.

违反规则创建的虚拟主播

下面这些主播来自伦敦的AI视频创业公司Synthesia。他们并不是真人，而是深度伪造技术（DeepFake）生成的人物。

Synthesia如今声称，创建这些虚拟主播的用户违反了公司规则。当被问起该公司这些用户来自哪里，违反了哪些规则时，该公司并没有回应这些问题。

The company now claims users who created these anchors violated its rules. When we ask the company where these users are from and which rules they violated, the company did not respond to our questions.

但在其官网上，起底工作室发现他们与BBC和路透社有密切合作，创建了类似的DeepFake AI主播。而且他们声称在2020年与路透社合作制作了世界上第一个由AI主播播报消息的体育视频。

But on its website, we find they have already worked closely with the BBC and Reuters in creating similar DeepFake anchors. And they claim that they made the world's first DeepFake anchor sports video with Reuters in 2020.

有趣的是，CNN在视频中谈到虚假信息时，声称来自中国的虚拟主播散布虚假信息。但其实同一家公司也在帮助路透社和BBC制作他们的虚拟主播。

“擅于社交”的AI

AI在伪造新闻主播方面似乎不怎么出色，但它在伪造社交媒体身份上却表现不错。

AI seems not so great at faking news anchors, but it could be really good at faking social media identities.

斯坦福大学旗下的“斯坦福互联网观察实验室”（Stanford Internet Observatory）和美国互联网分析公司Graphika在调研时发现了下面这个用AI生成头像的假账户。研究人员从不同图片中的眼睛排列方式分析出这张照片是用AI技术制作的。

这篇名为《未闻之声》（Unheard Voice）的报道称，这些账户与美国政府的舆论宣传活动有关。在五年多的时间里，它们运用欺骗性策略来散布虚假信息，进行对西方有利的政治文宣。这是美国政府利用AI传播虚假信息的一例丑闻。

The report Unheard Voice said that there were accounts like this linked to the US government propaganda campaigns that use the deceptive tactics to promote pro-West narratives, spending over 5 years. It is a scandalous example of the US government using AI to promote disinformation.

此前，这篇《未闻之声》，鲜有西方媒体关注。直到Graphika出了一份新的报告，声称“中国传播虚假信息”，不仅CNN立刻跟进了报道，纽约时报、澳大利亚的ABC和今日印度也都纷纷报道。这是西方媒体与美国地缘政治议程保持高度一致的又一个例证。

再来举个例子，从2月5日到2月12日，西方媒体每天大约发表300篇对中国气球的报道，但似乎没有一家西方媒体对传奇调查记者西摩·赫什（Seymour Hersh）报道的美国政府对北溪管道被炸难辞其咎的内容抱有兴趣。

▲ Seymour Hersh. Photo: Institute for Policy Studies/Flickr, CC BY 2.0

西方媒体同样不感兴趣的还有俄亥俄州火车脱轨导致有毒化学品泄漏事件。可能，让他们的观众抬头寻找“中国气球”更容易。

这样的情况已经不是第一次了。在使用AI技术虚假宣传之前，美国就已在2022年间花费了5亿美元来量产关于中国的负面新闻。

This is not the first time of such situations. Even before AI was called up for disinformation, US spent 500 million dollars on churning out negative news coverage on China in 2022.

中国正被西方媒体用作烟幕弹，以方便将他们读者的注意力从国内真正的麻烦上转移开。