随着生成式人工智能成为日常生活的一部分，患者越来越多地将聊天机器人对话引入治疗过程中。
根据美国心理学会对 1,200 多名美国心理学家进行的调查，77% 的患者表示，他们的患者曾讨论过使用 AI 来实现情感支持、诊断、陪伴或其他心理健康相关目的。
在调查中，39% 的心理学家表示患者使用人工智能来自我诊断心理健康状况，33% 的心理学家表示患者使用聊天机器人来协助治疗或治疗，35% 的心理学家表示患者使用人工智能作为额外的心理健康专业人士。
“虽然很少有心理学家报告他们的患者以不健康的方式使用聊天机器人，但超过三分之一 (36%) 的人表示，他们注意到他们的患者对聊天机器人产生了一定程度的依赖，15% 的人谈论或注意到他们的患者出现了与聊天机器人相关的扭曲思维或妄想，”调查称。
心理学家还报告了患者将聊天机器人用于社交目的。 22% 的患者表示，患者使用人工智能是为了建立友谊，而 13% 的患者表示，患者与聊天机器人建立了亲密的关系。
在患者与聊天机器人建立了关系的心理学家中，71% 的患者表示患者通过人工智能讨论了他们的心理健康状况，而 68% 的患者表示患者感到聊天机器人互动的支持或验证。近一半的人表示与聊天机器人进行了积极的沟通，41% 的人表示患者正在使用它们来增强健康的应对技能。
根据调查，总体使用率实际上可能高于报告的水平，因为该调查仅记录了心理学家与现有患者的互动。
这项调查发布之际，人工智能公司正在扩大聊天机器人和人工智能伴侣，而研究人员则继续对其对心理健康的影响表示担忧。超过三分之一的心理学家报告患者对聊天机器人产生了依赖，15% 的患者报告了涉及扭曲思维或妄想的案例。
纽约城市大学和伦敦国王学院最近进行的一项研究发现，几种领先的人工智能模型可能会强化妄想、偏执和自杀意念，其中 xAI 的 Grok 4.1 Fast 表现最差。
“心理学家对使用聊天机器人提供心理健康建议的态度的特点是对安全和隐私非常谨慎，”先前的研究称。 “几乎每位心理学家 (97%) 都认为聊天机器人可能会无意中强化负面行为或妄想信念，94% 的人表示当前版本的聊天机器人无法以适当的细微差别来处理情况。”
这项调查发布之际，人工智能开发人员正面临着关于聊天机器人在现实世界中可能造成的危害的日益严格的法律审查。近几个月来，OpenAI、谷歌和 xAI 都受到了诉讼，其中包括针对谷歌的过失死亡诉讼，指控称 Gemini 在一名佛罗里达男子自杀前助长了他的妄想。除此之外，还因不列颠哥伦比亚省发生的大规模枪击事件和意外服药过量而对 OpenAI 提起诉讼，以及指控 xAI 的 Grok 产生集体诉讼未成年人的露骨色情图片。
虽然 APA 承认人工智能可以帮助用户组织思想并补充专业护理，但它警告说，聊天机器人不是私人的，不应取代有执照的心理健康专业人员。
调查称，“许多人，尤其是青少年，可能会使用人工智能作为一种更实惠、更容易获得心理健康建议的选择。” “然而，人工智能并不能安全或有效地替代合格的心理健康服务提供者，应谨慎使用。”