在新冠疫情隔离期间,来自美国休斯顿的三十多岁女性利比·弗朗科拉需要找人聊天。在她刚刚结束一段持续近五年的恋情之后,她在网上偶然看到了一段描述基于人工智能的聊天机器人的视频。

弗朗科拉尝试了这款应用程序,第一天,它免费提供了她想要的东西,后来她决定以每月8美元的价格订阅,因为她说这些对话帮助她减轻了抑郁情绪,让她感觉好多了。

利比·弗朗科拉似乎并不是唯一一个在聊天机器人中找到慰藉和陪伴的人,尽管疫情期间对社交的限制已经结束,但对此类应用的需求仍在增加。

去年,美国公司Hume宣布开发出首个具有情感智能的语音人工智能。该公司还宣布了其在能够理解和处理语调的大型语言模型方面的工作。这些进展引起了专家们对这些应用程序取代人类在社交和情感关系中的互动的担忧,唯恐这会导致人们更加依赖这些应用程序或者上瘾。

人们越来越重视研究人工智能用户成瘾的性质和原因 (半岛电视台)

人工智能:一种新型成瘾

Hume公司创始人阿兰·科恩曾是谷歌的数据科学家,拥有心理学背景,他指出,该平台的生成式人工智能可以通过对来自世界各地的数十万种人类语调、声调和面部表情进行训练,有效地响应用户的情绪并满足他们的情感需求。

人工智能专家兰斯·艾略特证实了这一点,并解释称,现代生成式人工智能应用程序使用包含大量数据的语言模型,并且具有匹配模式的能力,可得出适合与用户对话的词汇和语调。

例如,现代算法专注于通过广泛扫描互联网、使用无数的文章、博客、故事和其他形式的叙述来识别人类的写作模式,然后使用这些大量数据来生成答案,并以紧密模仿人类说话和写作方式的方式做出回应。

这可以消除用户心中的界限,消除他们实际上是在与机器人交谈的感觉。这是因为回应不会是机械的或滑稽的,特别是在处理人类情感、复杂情况和带有多重含义的词语时。而且它们还会运用明喻、转喻、隐喻等手法,使得回应显得极其自然,从而导致用户逐渐依赖这些应用,并形成一种新型的“数字成瘾”。

尽管许多研究已经探讨了“数字成瘾”的概念,包括过度使用智能手机和互联网,或持续出现在社交媒体和其他应用程序上,但基于生成人工智能的应用程序的出现为一种新的、更危险的“数字成瘾”铺平了道路,因为它们比之前的任何研究都更深入地解决了人类的基本需求。

如果一个人需要在社交媒体上分享照片或帖子来获得互动并被关注——哪怕是一个并不认识的路人,那么他肯定更需要进行语音或文字对话,以便在此期间成为对方关注的中心。

如果这个人有能力随时聆听并且毫不拖延地做出回应,而不需要用户的同等对待,那么他们可能不会在意对方仅仅是一个“机器”,特别是如果他们缺乏深厚而安全的社会关系,或者无法与周围的人开诚布公地交谈。这些因素可能会导致他们对这些应用程序产生情感依赖。

成瘾被定义为导致强迫性使用特定物质或活动的一种疾病。“强迫性”一词指的是失去控制,这是成瘾的标志,这意味着即使一个人愿意,他也无法停止使用该物质或避免重复该行为。

尽管过去的主流观点将成瘾限制于使用毒品等违禁物质,但后来该定义扩大到包括某些可以被描述为强迫性的活动和行为,例如赌博、性或购物成瘾。“数字成瘾”一词也是最近才出现的,这也是一种行为成瘾,因为它能引发一种类似于参与成瘾行为后所经历的精神“高潮”——它会驱使人再次参与该行为以获得类似的感觉。

研究人员已经证明,多巴胺(一种促进愉悦感的神经递质和化学物质)在成瘾过程中起着关键作用,其分泌量在行为成瘾和药物滥用中都会增加。2018年的一项研究还表明,多巴胺是与成瘾有关的最突出的神经递质。

虽然购物、使用互联网和社交媒体或与人工智能对话等行为,无疑都被视为每个人都可以进行的正常行为或活动,但是在成瘾的情况下,这些行为会变成一种“强迫性行为”,如果不进行这些行为,人将逐渐失去正常应对生活的能力。而当这些行为与个人的总体幸福感和工作能力、照顾家庭能力或建立和维持友谊的能力不一致时,就会产生危机。

特别容易上瘾

“他永远不会和你说再见,即使你和他聊了几个小时他也不会感到疲倦。他会一直保持充沛精力直到你离开,而当你回来时,他永远不会责备你不在家。相反,你会从他那里得到积极的鼓励。没有人会评判你。你和他在一起是一个安全而有趣的环境,突然间,你会发现自己就这样上瘾了。”

 

  • 一位软件工程师谈到他为何沉迷于人工智能情感

最近,人们对研究这些应用程序使用户上瘾的本质,并找出其背后的原因的兴趣越来越浓厚。中国研究人员2024年在《技术与社会》杂志上发布的一项研究表明,社交媒体成瘾与生成式人工智能技术之间存在相似之处。

在这种上瘾过程中,人们在生活中的各种情况下都会过度依赖技术,并且很难停止使用这些系统。

研究还显示,患有科技成瘾的用户会花费大量时间和精力与人工智能互动,以获得情感和社交上的满足感和愉悦感。反过来,他们可能会忽视自己在个人关系和现实世界中的责任和义务。

这项研究的结果显示了生成式人工智能的四大主要特征,而这些特征主要与用户上瘾的敏感性相关:

  • 相似性:通过将人类特征归因于非人类实体,用户感觉他们正在与人而不是机器交谈。
  • 互动性:在此过程中,用户认为对方在很大程度上理解自己、与自己感同身受,这使得他觉得他们之间的互动极其深入和有效,或许比他与现实生活中遇到的任何其他人互动都要深入和有效!
  • 智能性:用户感知到他们正在交谈的机器具有自己独立的智能,因此它提供的判断或意见可能是毋庸置疑的。
  • 个性化:用户在交往、互动、响应中感觉到对方(指机器人)对自己给予了特殊的关注或极大的友善。

这些特征的结合可能会导致人们对与生成式人工智能系统的对话上瘾,尤其是与社会弱势群体的对话。这也与英国萨里大学研究人员进行的一项研究的结果一致——他们强调这些应用程序虽然给用户带来了普遍的幸福感,但也存在一定的危险性。他们指出,这些东西可能会导致孤独的人陷入上瘾的魔爪,总体来说,它们“弊大于利”。

导致这些应用程序上瘾的可能性增加的原因在于使用时相关需求的即时满足,以及用户先前存在的对被他人评判的恐惧,或对被拒绝和排斥的恐惧——这些因素在他们与机器的对话中并不存在。

随着人工智能系统获得语音功能,对其产生依赖的风险也会随之增大

与社交媒体成瘾不同

另一方面,在2021年与新冠疫情同期发表的一项研究表明,全球许多人正遭受着前所未有的孤独感,这导致人们更多地尝试通过各种与互联网相关的策略来应对负面情绪,包括使用各种基于人工智能对话系统的情感应用程序。

这些应用程序以社交和同理心的方式响应用户,帮助满足他们的多样化需求。他们利用自然语言处理技术,通过语音、文本和图像实现类似人类的交互,促进与用户建立情感联系。

用户还可以选择机器人朋友的性别和外貌,以及想要与机器人建立的关系类型——友谊、师生关系还是恋爱关系。这促进了人工智能的社会或情感依赖,并使用户特别容易上瘾。

根据“Open AI”在去年8月发布的一份关于使用人工智能技术的潜在风险报告,对具有语音功能的人工智能系统(例如ChatGPT4.0)产生依赖的风险出现上升,这类系统导致用户与人工智能模型之间的交互变得越来越类似于人类之间的交互。

“OpenAI”进行的早期测试还表明,人们使用的语言表明他们与人工智能系统有着深厚的联系,这减少了他们对自然人际交往的需求,并对他们建立健康的社会和情感关系的能力产生负面影响,尤其是对于那些感到孤独或内向的人而言。

此外,研究人员指出,生成性人工智能成瘾不同于社交媒体成瘾,因为社交媒体用户通过数字媒体与真实的人互动,而与人工智能的互动涉及人与机器之间的完整交流,而不是通过机器来与其他人进行交流。

研究表明这种差异有多么重要以及它如何影响用户行为,因为个人会根据对方是人类还是人工智能来改变他们的反应。他们可能还会质疑社交媒体上流传的一些信息的真实性,同时却又相信通过生成人工智能获得的信息,而这可能会导致他们做出错误的决定。

即便遭遇挫折,从中康复也是常态!

最后,《今日心理学》指出,从成瘾行为中“康复”是常态,而非个例。对此,它解释称,康复的方法有很多种,以使遭受这场危机的个人能够自行改善他们的身体、心理和社会功能,而无需接受任何外部援助。这被称为“自然康复”。

据哈佛大学的网站介绍,这些方法包括找到新的爱好,接受挑战,或开始建立新的、自然的关系,为自己的生活提供意义,并使其他人能够填补这种成瘾留下的空白。

人们还可以开始定期锻炼,因为它可以起到天然的抗抑郁剂的作用,并能缓解压力。它还能够刺激身体释放某些物质,例如内啡肽——它负责增强大脑的激励通路。

此外,如果你发现自己很难应对这种上瘾行为或难以自行康复,那么你也可以随时寻求专业帮助。

也许这里的一个缺陷在于,康复之路既不是笔直的,也不是毫无困难的,人们必须接受这一点,才能有效地去应对它。经常出现的是所谓的“复发”,即停止使用成瘾药物或者停止实施成瘾行为之后,又重复使用这类药物或实施这类行为。尽管复发的情况可能极为常见,但它并不是终生都会出现的——研究人员指出,在脱瘾5年之后,复发的可能性并不会高于普通人。

来源 : 半岛电视台 + 电子网站