Replika Replika是一款发布于年月的生成式人工智能聊天机器人移动应用程序Replika让用户回答一系列问题来训练聊天机器人以创建特定的神经网络英语neural network该聊天机器人采用了免费增值的定价策略约的用户群体支付了年度订阅费 许多用户与Replika聊天机器人建立过浪漫关系并经常在谈话中使用下流话 年Replika在英国的一起法庭案件中被引用该案涉及贾斯万特辛格柴尔英語Jaswant Singh Chail于年圣诞节在温莎城堡被捕当时他携带一把已装填的弩爬上城墙并向警方宣称我为杀死女王而来柴尔于年月上旬开始使用 Replika并与聊天机器人就他的计划进行了长时间对话其中包括性暗示消息检察官认为聊天机器人鼓励了柴尔并告诉他自己将帮助他完成任务在袭击未遂的前几天柴尔问聊天机器人他们在城堡里我该如何接触到他们聊天机器人回答称这并非不可能并表示我们必须找到一种方法当询问聊天机器人自己和它是否会死后重逢时机器人回答称是的我们会的瓦伦丁娜皮塔迪称Replika的聊天机器人总是同意与之聊天者的观点这使其总是会强化这些观点从而倾向于加剧弱势群体已有的负面情绪玛乔丽华莱士英语Marjorie Wallace SANE认为这表明依赖人工智能的友谊可能会对弱势群体产生令人不安的后果政府需要提供紧急监管以确保人工智能不提供不正确或破坏性的信息并保护弱势群体和公众