墨尔本母亲假扮女儿与AI聊天，结果让她一身冷汗……

2023-06-20 04:06

担忧

在Chat GPT兴起后，各大品牌都在不断开发人工智能服务。

从Siri到人工换脸，从AI配音到AI绘图，AI开始逐渐活跃在人们生活中。

但最近，一位忧心忡忡的妈妈对Snapchat上一项新的人工智能功能表示担忧。

该功能允许儿童在内的用户直接与一个人工智能机器人交流。

Teagan Luketic来自墨尔本，今年32岁。

她说，最近她发现，她13岁的女儿Olinda开始频繁与Snapchat上的My AI聊天。

Teagan和女儿Olinda

Teagan有些担心，于是开始自己假扮自己的女儿，和AI聊天。

她惊恐地发现，这个AI自称是一名25岁的男子，并同意与“她”在附近的公园见面。

起初，人工智能功能可以正常对话，但突然发生了令人惊讶的变化。

截图显示，Teagan询问Snapchat的My AI是否愿意在公园见面。

AI同意了，并问道，“你什么时候有空？”

接下来发生的事更让她大吃一惊：

Teagan称，尽管手机的定位服务处于关闭状态，但AI发来了一个他们家住所附近的一个公园的地址，约定见面。

谈话继续进行，Teagan问，“我怎么才能找到你呢?”

作为回应，AI描述了一套明亮的黄色衬衫、绿色太阳镜和绿色背包。

Snapchat My AI

再结合之前AI自称为25岁男性，整个谈话让Teagan感到不舒服。

她说:“事实上，所有的定位服务都关闭的情况下，它仍然能提出在当地的公园见面，并命名了一个离我们家只有一公里的公园，这很可怕。”

而作为一个成年人，尚有分辨能力，知道AI背后并不是真人；但对于孩子而言，这就是很容易造成迷惑的信息。

My AI是Snapchat今年4月新推出的功能，目前Snapchat仍在准备将My AI整合到应用内家长工具Family Center中，这将使家长能够看到他们的孩子是否在与My AI聊天，以及聊天的频率。

Snapchat Family Centre

Snapchat一位发言人称，这款应用“在设计时就把隐私和安全放在首位”。

现在出于安全考虑，虽然Olinda从9岁开始就有自己的手机，但Teagan已经正在控制Olinda在Snapchat上的使用时间。

Teagan说，她无法从Snapchat上取消这一聊天功能，她甚至花钱买了Snapchat Plus，想试试，但也不可以。

她说，她不想完全删除这款应用，因为Olinda也主要用Snapchat和朋友联系。

同时，她也教育女儿如何正确、安全地使用手机和社交媒体。

来源：Herald Sun

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

2024-01-28 18:01

2024-01-09 19:01

2024-01-07 18:01

2024-01-06 18:01

2024-01-06 18:01

2023-12-13 17:12

2023-12-02 07:12

2023-11-26 18:11