伊利诺伊州立法禁止AI提供心理健康服务

伊利诺伊州州长 JB・普利茨克于上周五签署了一项新法案，禁止人工智能（AI）在心理健康服务中提供治疗，旨在保护居民免受潜在有害建议的影响。这项名为《心理资源健康与监督法》的法律明确规定，AI 系统不得进行治疗或做出临床决策。

图源备注:图片由AI生成

法案规定，心理健康服务提供者不得使用人工智能独立进行治疗决策、直接接触患者或制定治疗方案——除非经过持证专业人员审核批准。法律同时堵住了无证人员自称”治疗师”的漏洞。违反该法案的行为每次违规可处最高1万美元罚款，具体金额根据违规严重程度调整，法律立即生效。

这项新立法回应了社会对在敏感领域（如医疗）使用 AI 的日益担忧。去年5月，《华盛顿邮报》报道了一款 AI 驱动的治疗聊天机器人，竟然建议一位虚构的前瘾君子 “吸一点冰毒度过这一周”。此外，伊利诺伊州众议院健康保险许可委员会和保险委员会去年举行了一次联合听证会，听证会上立法者和专家警告说，AI 系统缺乏进行安全心理健康治疗所需的同理心、责任感和临床监督。

该立法特别强调，只有持证专业人员才能向他人提供心理治疗或心理治疗方法。这使伊利诺伊州成为首个规范AI心理健康服务应用的州，其法律体系还包含近期修订的《人权法案》，将使用AI进行员工歧视性待遇或未经通知部署AI工具的行为列为民事侵权。