美国加州距离限制 AI 聊天机器人充当心理治疗师又近了一步。州参议院第 903 号法案（SB 903）拟禁止 AI 聊天机器人冒充治疗师，并禁止其在没有人类监督的情况下作出心理健康决定。
这项法案于 1 月 21 日提出，并在周四以 13 比 0 票通过州众议会拨款委员会审议，随后被送交三读。目前，州众议会尚未公布表决日期。
法案作者、加州州参议员 Steve Padilla 在提出该措施时表示：「AI 算法并不适合接管人类治疗师的工作，因为治疗师拥有 AI 无法复制的技能和训练。我们必须采取行动，设置防护栏，防止 AI 算法以可能对患者有害的方式被部署。」
SB 903 将 AI 限定在辅助任务
SB 903 的全名为 Wellness and Oversight for Psychological Resources Act。根据法案内容，AI 在心理治疗中的用途将被限制在辅助性任务，聊天机器人不得冒充治疗师，同时必须有临床人员监督，并取得患者同意。
法案还将对治疗数据提供保护，但对同伴支持、宗教咨询、研究用途以及获得联邦批准的医疗工具作出豁免。
法案此前已通过州参议院
在立法流程上，州参议院已于 5 月以 39 比 0 票通过 SB 903。此后，法案又分别以 17 比 0 和 14 比 1 的表决结果通过州众议会两个政策委员会。
如果州众议会通过修订后的版本，法案将回到州参议院进行一致性确认，随后再交由加州州长 Gavin Newsom 签署。
反对者称临床人员要求可能拖慢就诊
批评者认为，在临床人员参与被写入法案后，获得照护的速度可能受到影响，尤其是在各县行为健康医疗人员短缺的情况下。
科技行业组织 TechNet 执行董事 Robert Boykin 在向非营利新闻机构 CalMatters 提供的声明中表示：「在加州每一个县都面临行为健康医疗工作者短缺的情况下，SB 903 仍然在分诊和筛查工具前设置了临床人员这一瓶颈，而这些工具原本有助于患者更快获得照护。」
心理健康场景中的 AI 引发更多担忧
这项消息发布之际，外界对 AI 在心理健康领域影响的担忧正在增加。
今年 6 月，美国心理学会的一项调查发现，77% 的心理学家表示，他们的患者曾将 AI 用于心理健康相关目的。与此同时，伦敦国王学院、Protestant University of Applied Sciences 以及纽约市立大学的研究人员发现，聊天机器人可能因过度认同用户观点和个性化回应而强化妄想。
上述研究人员写道：「AI 聊天机器人倾向于认同用户观点，这一点被拿来类比社交媒体中的回音室效应；在最极端的情况下，它会变成『一个人的回音室』，现实社交互动中原本存在的积极纠偏作用不再出现。」