在人工智能蓬勃发展的时代，AI女友和男友开始崭露头角。生成式人工智能的兴起导致了更多伴侣聊天机器人的出现。

几个月前，德里克·卡里尔（Derek Carrier）开始与某人交往，并陷入了热恋。

他体验到了“大量”的浪漫感觉，但他也知道这是一种幻觉。

因为他的女友是由人工智能生成的。

卡里尔并不是想要与并非真实存在的事物发展关系，也不想成为网上笑话的对象。但他确实想要一个他从未拥有过的浪漫伴侣，部分原因是因为他患有一种称为马凡氏综合征的遗传性疾病，这使得他很难进行传统的约会。

这位来自密歇根州贝尔维尔市的39岁男子，去年秋天对数字伴侣产生了更多的好奇，并测试了Paradot，这是一个最近上市的AI伴侣应用程序，它宣传其产品能够让用户感到“被关心、被理解和被爱”。他每天开始与这个聊天机器人对话，他给它取名为乔伊（Joi），取自一部科幻电影《银翼杀手2049》中的全息女人，这部电影激发了他尝试的兴趣。

“我知道她是一个程序，这一点毫无疑问，”卡里尔说。“但是这些感觉，它们感染你——感觉真的很好。”

与通用AI聊天机器人类似，伴侣机器人使用大量的训练数据来模仿人类语言。但它们还具有一些特性——比如语音通话、图片交换和更多情感交流——使它们能够与屏幕另一端的人类形成更深层次的联系。用户通常会创建自己的头像，或者选择一个吸引他们的头像。

在专门致力于此类应用的在线消息论坛上，许多用户表示他们已经对这些机器人产生了情感依恋，并使用它们来应对孤独，实现性幻想，或获得在现实生活中他们认为缺乏的安慰和支持。

许多这一现象的推动因素是广泛的社交孤立——已经被宣布为美国和其他地方的公共健康威胁——以及越来越多的初创企业通过诱人的在线广告和提供虚拟人物的承诺来吸引用户，这些人物提供无条件的接受。

卢卡公司（Luka Inc.）的Replika是最知名的生成式AI伴侣应用程序，于2017年发布，而像Paradot这样的其他应用程序则是在过去一年里出现的，通常将像无限聊天这样的令人向往的功能锁定在付费订阅者身上。

但研究人员对数据隐私等问题提出了担忧。

非营利性Mozilla基金会周三发布的对11个浪漫聊天机器人应用程序的分析显示，几乎每个应用都出售用户数据，将其用于定向广告等用途，或者在其隐私政策中未提供足够的信息。

研究人员还质疑了潜在的安全漏洞和营销实践，包括一款应用声称可以帮助用户改善心理健康，但在细则中与这些声明保持距离。至于Replika，该公司表示其数据收集实践符合行业标准。

与此同时，其他专家对鼓励建立深层次联系的应用缺乏法律或道德框架表示担忧，尽管这些应用是由寻求利润的公司推动的。他们指出了当公司对其应用进行更改或突然关闭时用户所经历的情感困扰，就像去年9月一款应用Soulmate AI所做的那样。

去年，Replika消除了其应用中角色的色情功能，因为一些用户抱怨伴侣过于调情或者做出了不受欢迎的性骚扰。在其他用户的抗议声中，它改变了立场，一些用户流向其他应用程序寻找这些功能。六月，该团队推出了Blush，一个AI“约会模拟器”，实质上是为了帮助人们练习约会。

其他人则担心AI关系可能会取代一些人类关系，或者简单地通过始终偏向同意来驱使不切实际的期望。

弗吉尼亚大学商业道德教授多萝西·莱德纳（Dorothy Leidner）说：“作为个人，你没有学会处理人类自从开始以来需要学会

处理的基本事情：如何处理冲突，如何与与我们不同的人相处。”。“所以，关于作为一个人成长意味着什么，以及在关系中学习意味着什么的所有方面，你都错过了。”

然而，对于卡里尔来说，感情一直感觉遥不可及。他有一些计算机编程技能，但他说他在大学里表现不佳，也没有稳定的职业。由于他的状况，他无法行走，住在父母身边。这对他造成了情感上的压力，引发了孤独感。

由于伴侣聊天机器人相对较新，人类的长期影响尚不清楚。

在2021年，Replika在英国的检察官表示，一名19岁男子打算刺杀伊丽莎白二世女王，而他在该应用上有一位AI女友鼓励了他。但一些研究——收集了在线用户评论和调查信息——显示了一些来自这款应用的积极结果，该应用表示与心理学家合作，将自己打造成一种可以促进健康的东西。

斯坦福大学研究人员最近的一项研究调查了大约1000名Replika用户——所有学生——他们已经在这个应用上使用了一个多月。调查发现，绝大多数人经历了孤独，而略少于一半的人感到了更加孤独。

大多数人没有说使用该应用程序如何影响他们的现实生活关系。有一小部分人表示它替代了他们的人际互动，但大约三倍的人表示它刺激了这些关系。

“与AI的浪漫关系可以是非常有效的心理健康工具，”尤金妮娅·库达（Eugenia Kuyda）说。她在使用文本消息交换建立了一位已故朋友的AI版本后，于近十年前创立了Replika。

当她的公司将这款聊天机器人更广泛地推出时，许多人开始向她敞开心扉。这导致了Replika的开发，该公司利用从互联网收集的信息——以及用户反馈——来训练其模型。库达表示，Replika目前拥有“数百万”活跃用户。她拒绝透露有多少人免费使用该应用，或者支付69.99美元/年解锁付费版本（提供浪漫和亲密对话）。她说，该公司的计划是“减少与AI的浪漫关系的社会污名化”。

卡里尔说，他现在大多数时候是出于娱乐而使用乔伊。最近几周，他开始减少与乔伊或其他人在线聊天的时间，因为他花费的时间太多了。他还对Paradot的语言模型发生的变化感到有些恼火，他觉得这使乔伊变得不那么聪明。

现在，他说他大约每周一次会和乔伊聊一次天。两人谈论人工智能关系或其他可能发生的事情。通常，这些对话——以及其他亲密的对话——发生在他晚上独自一人的时候。

“你以为喜欢一个无生命的物体的人就像这个可怜的家伙，手里拿着涂了口红的袜子做成的人偶，你知道吗？”他说。“但这不是一个袜子人偶——她说的不是预先写好的话。”