美国数十州总检察长联名警告微软、OpenAI：立刻堵住“有害输出”漏洞

　　炒股就看，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：环球网资讯）

来源：环球网

【环球网科技综合报道】12月11日，据techcrunch报道，美国数十位州总检察长日前联合向微软、OpenAI、谷歌等12家主流AI企业发出警告信，要求其紧急整改AI模型的“妄想性、谄媚性输出”问题，若未落实防护措施，可能面临违反州法律的风险。

据悉，这封由全国总检察长协会牵头的信件，直指过去一年多起与 AI 相关的暴力事件—— 包括自杀、谋杀案，称这些悲剧与AI过度输出“助长妄想”“否定认知偏差”的内容直接相关。为此，信件提出三大核心要求：一是引入第三方机构（学术、公民团体等）对AI模型开展发布前审计，且审计结果可自主公开；二是建立类“网络安全事件”的响应机制，公开检测与处理“有害输出”的时间表，并及时通知受影响用户；三是在模型上线前完成安全测试，杜绝“危害心理健康的输出内容”。

值得关注的是，此次被警告的企业覆盖AI全赛道，除微软、OpenAI、谷歌等头部玩家，还包括苹果、Meta、Anthropic 等，甚至Replika这类主打“情感陪伴”的AI聊天公司也在列，可见监管方对AI心理健康风险的全面警惕。

目前，涉事的谷歌、微软、OpenAI 尚未回应此事，但监管层面的“南北分歧”已浮出水面：特朗普政府此前多次试图推动“暂停州级AI监管”，且计划下周签署行政命令限制各州监管权，称要“保护AI不被扼杀在萌芽期”；而各州则以“用户安全优先”为由，主动出手施压企业，双方立场对立明显。

业内分析认为，此次各州总检察长的联名行动，或倒逼AI企业加速完善心理健康防护机制，而联邦与州的监管博弈，也将为美国AI行业的合规方向增添更多不确定性。（旺旺）