意禁聊天机械人Replika收集资料

美国三藩市企业Luka于2017年推出的人工智能聊天机械人Replika，能与客户谈话及倾听说话，但意大利近日禁止Replika使用意国用户个人资料。「虚拟伴侣」Replika的部分用户只是想要陪伴，但也有些人想要发展恋情、性爱聊天，甚至想看聊天机械人的性感照。去年底，有用户开始投诉Replika使用过于露骨的文字和图片，有些人认为已经属于性骚扰范畴。意大利监管机构对这样的情况感到不满，在发现Replika违反欧盟《通用资料保护规则》（GDPR）后，上周禁止Replika收集数据。

聊天机械人Replika备受争议

可能危害未成年与情绪脆弱人士，意大利禁止美国聊天机器人Replika使用意大利用户个人资料。

Replika是三藩市新创企业Luka在2017年推出利用人工智慧（AI）科技的一款聊天机械人。

AI科技聊天机械人，可以和你做朋友吗？

Replika宣传成是「虚拟朋友」，声称可以改善使用者的情绪健康。

意大利当局指出，Replika没有使用者的年龄验证机制，例如针对未成年人的过滤器，或在使用者未明确通报年龄时能予以封锁的装置。

Replika现在恐又面临欧盟更严格规范。欧盟根据《通用资料保护规则》，已对多家屡次违规的大型科技公司，处以数十亿美元的罚款。意大利当局的决策表明，这项规则可能成为最新一代聊天机械人的天敌。

欧盟定则或成AI天敌

目前，欧盟是讨论管控这些新一代机械人的中枢，他们的人工智能法案（AI Act）已经在高层之间琢磨好几个月，可能会在今年定案。

这些新一代聊天机械人和支撑它们的所谓生成式人工智能，有望彻底改变网络搜寻等领域。但专家警告，监管机构需要担心许多问题，尤其是当机械人变得如此强大，以至于无法辨识它们跟人类的不同。

《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ