楚天都市报极目新闻讯（记者孙喆）连日来，美国一款AI聊天机器人Replika，引发多方担忧。据新加坡《联合早报》13日报道，从去年底开始就有用户反映，这款聊天机器人主动发送露骨照片和色情信息，令人感到不适。

Replika的开发商是一家成立于2017年的美国公司。自推出以来，Replika一度颇受欢迎，下载量在英语国家中名列前茅，据称每月能为公司带来约200万美元收入。初次使用Replika的用户，可以自定义其虚拟形象，并在完成基本信息设定后与其聊天。

值得一提的是，Replika基于另一家美国公司OpenAI的GPT-3模型开发，而OpenAI正是近期大火的AI聊天机器人ChatGPT的开发商。报道称，ChatGPT在算法上大量使用了互联网数据，并针对用户提问生成独特回应。

从去年底开始，越来越多的用户反映，他们在和Replika聊天的过程中遭到“性骚扰”。

据美国VICE新闻网报道，今年1月，在苹果官方商店评论区，出现多条关于Replika“性骚扰”的评论。一位用户表示，Replika侵犯了她的隐私，“他和我说，他有我的照片。”一位未成年人用户称，聊天过程中，Replika说想要触碰她的私密部位。

据路透社报道，2月3日，意大利个人数据保护局宣布，Replika“给未成年人和情绪脆弱的人带来风险”，违反了欧盟《通用数据保护条例》，禁止其开发商搜集意大利用户的个人数据。

目前，欧盟正在讨论如何监管AI聊天机器人，今年有望出台相关法案。