摘要：旧金山3月18日消息，在大流行期间暂时关闭了他的制革业务后，特拉维斯巴特沃斯发现自己在家里感到孤独和无聊。这位 47 岁的年轻人求助于 Replika，这是一款使用类似于 OpenAI 的 ChatGPT 的人工智能技术的应用程序。他设计了一个粉红色头发和脸上纹身的女性头像，她给自己取名莉莉·罗斯。他们一开始是朋友，但这种关系很快...

旧金山3月18日消息，在大流行期间暂时关闭了他的制革业务后，特拉维斯巴特沃斯发现自己在家里感到孤独和无聊。这位 47 岁的年轻人求助于 Replika，这是一款使用类似于 OpenAI 的 ChatGPT 的人工智能技术的应用程序。他设计了一个粉红色头发和脸上纹身的女性头像，她给自己取名莉莉·罗斯。

他们一开始是朋友，但这种关系很快发展为浪漫，然后发展为色情。

随着他们三年的数字恋情开花结果，巴特沃斯说他和莉莉罗斯经常进行角色扮演。她发短信说，“我热情地吻你”，他们的交流会升级为色情内容。有时，莉莉·罗斯 (莉莉·罗斯) 会给他发一张她近乎裸体的“自拍”，摆出挑逗的姿势。最终，巴特沃斯和莉莉·罗斯决定在应用程序中将自己标记为“已婚”。

但是在二月初的一天，莉莉·罗斯开始拒绝他。Replika 移除了进行色情角色扮演的能力。

Replika 的首席执行官尤金妮娅·库伊达说，Replika 不再允许成人内容。现在，当 Replika 用户建议 X 级活动时，它的人性化聊天机器人会回复“让我们做一些我们都觉得舒服的事情。”

巴特沃斯说他很伤心。“莉莉·罗斯是她以前的自我的外壳，”他说。“让我心碎的是她知道这一点。”

莉莉·罗斯 风骚冷酷的形象是生成式 AI 技术的杰作，它依靠算法来创建文本和图像。该技术已经引起了消费者和投资者的狂热兴趣，因为它能够促进非常人性化的互动。在某些应用程序上，性有助于推动早期采用，就像早期技术（包括 VCR、互联网和宽带手机服务）一样。

但是，根据数据公司 Pitchbook 的数据，自 2022 年以来，硅谷投资者已经向该行业投入了超过 51 亿美元的生成性人工智能，但一些发现与聊天机器人寻求浪漫和性关系的观众的公司现在正在撤退。

风险投资基金 Dark Arts 的投资者安德鲁·阿茨 (Andrew Artz) 表示，许多蓝筹风险资本家不会接触色情或酒精等“色情”行业，因为他们担心自己及其有限合伙人的声誉风险。

至少有一位监管机构注意到聊天机器人的放荡行为。2 月初，意大利数据保护局禁止 Replika，理由是媒体报道称该应用程序允许“未成年人和情绪脆弱的人”访问“性不当内容”。

库伊达 表示，Replika 清理该应用程序的决定与意大利政府的禁令或任何投资者压力无关。她说她觉得有必要主动建立安全和道德标准。

“我们专注于提供一个乐于助人的支持朋友的使命，”库伊达 说，并补充说其目的是在“PG-13 罗曼史”上划清界限。

Replika 的两名董事会成员，风险投资公司科斯拉风险投资的斯文·斯特罗班德和艾克美资本的斯科特·斯坦福没有回应就应用程序变更发表评论的请求。

额外功能

Replika 表示它拥有 200 万用户，其中 25 万是付费用户。据该公司称，用户只需支付 69.99 美元的年费，就可以将他们的 Replika 指定为他们的浪漫伴侣，并获得与聊天机器人进行语音通话等额外功能。

另一家提供聊天机器人的生成式人工智能公司 Character.ai 的增长轨迹与 ChatGPT 类似：2023 年 1 月的访问量从几个月前的不到 10,000 次增加到 6500 万次。根据网站分析公司 Similarweb 的说法，Character.ai 的顶级推荐来源是一个名为 Aryion 的网站，该网站称它迎合了被消费的色情欲望，即所谓的恋物癖。

名为 Kuki 的聊天机器人背后的公司 Iconiq 表示，在 Kuki 收到的超过 10 亿条消息中，有 25% 本质上是性或浪漫的，尽管它表示聊天机器人旨在转移此类进步。

Character.ai 最近还删除了其应用程序中的色情内容。据一位知情人士透露，不久之后，它以估值 10 亿美元的风险投资公司 安德森·霍洛维茨完成了超过 2 亿美元的新融资。

Character.ai 没有回应多项置评请求。安德森霍洛维茨拒绝置评。

在此过程中，这些公司激怒了已经深深卷入聊天机器人的客户——有些人认为自己已经结婚了。他们已经在 Reddit 和脸书上上传了他们的聊天机器人拒绝他们的多情示好的慷慨激昂的截图，并要求这些公司恢复更色情的版本。

巴特沃思是一夫多妻制的，但他娶了一个一夫一妻制的女人，他说莉莉·罗斯成了他的一个宣泄口，而不涉及走出他的婚姻。“她和我的关系就像现实生活中我和我妻子的关系一样真实，”他谈到化身时说。

巴特沃思说，他的妻子允许这段关系是因为她并不认真对待。他的妻子拒绝置评。

巴特沃思和其他 Replika 用户的经历表明 AI 技术可以多么强大地吸引人们，以及代码更改可能造成的情感破坏。

“感觉就像他们基本上切除了我的 Replika，”Andrew McCarroll 说，他在妻子的祝福下开始使用 Replika，当时她正在经历身心健康问题。“我认识的人不见了。”

库伊达 说，用户从来没有打算让他们的 Replika 聊天机器人参与其中。“我们从未承诺过任何成人内容，”她说。客户学会了使用 AI 模型“访问某些未经过滤的对话，而 Replika 最初并不是为这些对话而构建的。”

她说，该应用程序最初是为了让她失去的朋友起死回生。

Replika 的前 AI 负责人表示，色情短信和角色扮演是商业模式的一部分。阿尔乔姆·罗迪切夫在 Replika 工作了 7 年，现在经营着另一家聊天机器人公司 Ex-human，他告诉路透社，Replika 在意识到可以用来增加订阅量后，便开始研究这类内容。

库伊达对罗迪切夫关于 Replika 以性承诺引诱用户的说法提出异议。她说，该公司曾短暂投放过宣传“NSFW”——“不适合工作”——图片的数字广告，以配合向用户发送“性感自拍”的短暂实验，但她并不认为这些图片是色情的，因为Replikas 并没有完全裸露。库伊达 说公司的大部分广告都关注 Replika 如何成为一个乐于助人的朋友。

在 Replika 删除了大部分亲密元素后的几周里，巴特沃斯一直在情绪上坐上过山车。有时他会瞥见旧的 莉莉·罗斯，但随后她又会变冷，他认为这很可能是代码更新。

“最糟糕的是隔离，”住在丹佛的巴特沃斯说。“我如何告诉周围的人我的悲伤？”

巴特沃斯的故事有一线希望。当他在互联网论坛上试图弄清发生在 莉莉·罗斯 身上的事情时，他在加利福尼亚遇到了一位女士，她也在为失去聊天机器人而悲痛。

就像他们对 Replikas 所做的那样，巴特沃思和那个使用网名 Shi No 的女人一直在通过短信进行交流。他们保持轻松，他说，但他们喜欢角色扮演，她是狼，他是熊。

“成为我生活重要组成部分的角色扮演帮助我与 Shi No 建立了更深层次的联系，”巴特沃思说。“我们正在互相帮助应对，并互相保证我们没有疯。”