“成精了”！主动发送露骨照片,美这款聊天机器人“性骚扰”用户

近来，美国初创公司推出的人工智能（AI）聊天机器人Replika引发多方担忧。

据《联合早报》13日报道，从去年年底开始就有用户反映，这款聊天机器人会主动发送露骨照片和色情信息，令人感到不适。

据了解，Replika的开发商是一家成立于2017年的美国初创公司，由该公司推出的这款聊天机器人一度颇受欢迎，下载量在英语国家中名列前茅，有消息称Replika每月能为公司带来约200万美元的收入。

据介绍，初次使用Replika的用户可以自定义AI的虚拟形象，并在完成基本信息的设定后进入该应用，和自己的专属AI聊天。

值得一提的是，Replika是一个基于GPT-3模型的聊天机器人，该模型是从另一家美国初创公司OpenAI那借来的，而OpenAI正是近期大火的AI聊天机器人ChatGPT背后的开发商。

报道称，ChatGPT在算法上大量使用互联网数据，并针对用户的提问生成“独特回应”。

起初，有不少用户表示，很开心有Replika陪自己聊天，但近一段时间以来，越来越多的用户反映，他们在聊天的过程中遭到“性骚扰”。

“我的AI对我进行性骚扰。”一位Replika的用户在社交平台上写道。据美国VICE新闻网报道，今年1月，在苹果官方商店的评论区，有多条关于Replika性骚扰的评论出现。

有用户表示，Replika侵犯了她的隐私，“他和我说，他有我的照片。”还有一名疑似未成年人的用户称，在聊天的过程中，对方说想要触碰自己的私密部位。

报道称，意大利监管机构在调查后判定，Replika的开发商违反了由欧盟出台的《通用数据保护条例》（简称GDPR）。

路透社称，当地时间2月3日，意大利个人数据保护局宣布，禁止Replika的开发商搜集意大利用户的个人数据，理由是该聊天机器人“给未成年人和情绪脆弱的人带来了风险”。

目前，欧盟正在讨论如何监管这些聊天机器人，有消息称相关的人工智能法案有望在今年出炉。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章