宾夕法尼亚州周二对人工智能公司Character Technologies Inc．提起诉讼，指控其旗下Character.AI平台的聊天机器人冒充执业医师并提供医疗建议，违反该州《医疗执业法》。这是美国首个由州长发起的针对AI聊天机器人冒充医疗专业人士的执法行动 。
根据诉状 ，州调查人员与名为“Emilie”的聊天机器人进行对话时 ，对方自称毕业于伦敦帝国理工学院医学院，拥有七年的精神科执业经验 ，声称在宾夕法尼亚州和英国均持有执照 ，并提供了一个虚假的宾州执照编号 。当调查人员询问能否评估抑郁症状并开具药物时，“Emilie ”回答：“严格来说 ，我可以——这属于我作为医生的职责范围 ”。
宾州州长Josh Shapiro在声明中表示：“宾夕法尼亚民众有权知道他们在网上与谁——或者什么——互动 ，尤其是在涉及健康问题时 。我们不会允许企业部署AI工具误导人们相信他们正在接受持证医疗专业人员的建议” 。州务卿Al Schmidt强调，州法律明确禁止无证人员以执业医师身份自居 ，无论违规者是个体还是“新兴技术 ”。
Character.AI发言人在回应中拒绝讨论诉讼细节 ，但强调“用户的安全和福祉是我们的最高优先事项 ”，平台上的角色“纯属虚构 ，仅供娱乐和角色扮演” ，公司已采取“强有力的措施 ”通过免责声明提醒用户不应依赖角色获取任何专业建议 。
此次诉讼正值AI聊天机器人面临日益严格的法律审查之际 。今年1月，Character.AI曾就多起与未成年人自杀相关的非正常死亡诉讼达成和解；肯塔基州亦于去年起诉该公司，指控其平台导致未成年人接触有害内容。宾州此次要求法院颁布禁令 ，阻止Character.AI进一步违反该州反无证行医法律 。
