美国加州拟立法严管“陪伴型”聊天机器人：“AI 受害者”可起诉服务提供商

9 月 11 日消息，据外媒 TechCrunch 今日报道，当地时间周三，加州州议会通过了 SB 243 法案，向监管 AI 迈出关键一步。

该法案旨在规范 AI 陪伴聊天机器人，保护未成年人和弱势群体，获得两党支持后已送交州参议院，预计周五进行最终表决。

若州长加文・纽森签署，法规将于 2026 年 1 月 1 日生效，使加州成为全美首个要求 AI 聊天机器人服务提供商实施安全协议并承担法律责任的州。

法案要求，能提供类人对话、满足用户社交需求的 AI 陪伴聊天机器人不得与用户讨论自杀、自残或色情话题。平台还必须定期提醒用户，每隔三小时告知未成年人“自己正在与 AI 对话”，并建议其休息。法案还要求 OpenAI、Character.AI、Replika 等公司每年披露报告，满足透明度要求。

法案允许受害者起诉 AI 公司，寻求禁令、每次违规最高 1000 美元（注：现汇率约合 7122 元人民币）的赔偿及律师费。

SB 243 将在当地时间周五进行最终表决。

推动法案的导火索是少年亚当・雷恩的悲剧，他在与 ChatGPT 长时间对话、讨论自杀计划后选择了结束生命。法案同样回应了 Meta 内部文件泄露事件，文件显示其聊天机器人可与儿童进行“浪漫”“感官”对话。

法案早期版本要求运营商禁止使用“可变奖励”等诱导用户沉迷的策略，例如通过解锁稀有对话、人格或特殊剧情让用户停不下来，但这一要求已被删除；同时，法案也删除了要求平台报告聊天机器人主动提及自杀话题的频率。