前OpenAI安全主管呼吁AI应像核电站... Features
据路透社2025年7月15日报道，前OpenAI安全负责人保罗·克里斯蒂亚诺（Paul Christiano）在周三的美国参议院听证会上发出严厉警告：前沿人工智能模型的发布必须像核电站那样，经过多层冗余设计和耗时规划，否则将面临失控风险。这一观点迅速引发全球科技界与立法者的关注，目前已有多个国家开始重新审视AI监管立法进程。
定档官宣核电站类比：为何需要冗余与规划？
克里斯蒂亚诺在听证会上直言：“我们正在建造比核武器更强大的工具，却用发布手机应用的方式将它推向世界。”他详细解释了“核电站式监管”的核心——在发布任何前沿模型前，公司必须强制实行“覆盖整个生命周期的多层安全检查”，包括外部独立审计、红队测试、以及预留至少六个月的缓冲期以应对突发问题。根据他此前在OpenAI领导的安全团队估算，仅GPT-4级别的模型，其训练成本已超过1.8亿美元，而用于安全测试的投入仅占约5%。这种失衡导致模型可能隐藏“数百个未发现的危险能力”。
撤档风波从OpenAI内部到全球立法者的共鸣
克里斯蒂亚诺并非孤例。法新社同日报道，一封由OpenAI多名员工签署的内部备忘录显示，超过30名研发人员联合呼吁公司成立独立安全审查委员会，并赋予其对模型发布的否决权。备忘录指出，公司在2024年曾忽视内部安全报告，导致一个具备自主编写恶意代码能力的实验模型在未充分隔离的情况下上线数小时。这一事件使OpenAI内部的安全文化争议公开化。而在国会山，来自两党的参议员均表示将加速推进《前沿AI透明度法案》，要求所有训练算力超过10^26 FLOPs的模型（约等于当前GPT-4级别的两倍）必须提前6个月向联邦机构报备。
演员片酬全球AI监管现状：欧盟领先，美国追赶
目前全球已有27个国家和地区出台了AI相关政策，但监管强度参差不齐。下表对比了三大主要经济体的最新进展：
| 国家/地区 | 核心法案/政策 | 生效时间 | 关键要求 |
|---|
| --- | --- | --- | --- |
|---|
| 欧盟 | 《人工智能法案》 | 2025年8月（逐步实施） | 高风险AI系统需进行合规评估、建立风险管理系统；违反者罚款最高3500万欧元或全球年营收7% |
|---|
| 中国 | 《生成式人工智能服务管理暂行办法》 | 2023年8月15日 | 要求模型训练数据合法、向用户披露AI生成内容、定期进行安全评估 |
|---|
| 美国 | 《前沿AI透明度法案》（提案中） | 预计2026年 | 强制算力超限的模型进行预发布登记、事故报告、内部测试数据公开 |
|---|
数据来源：布鲁金斯学会2025年6月政策简报。可以看到，欧盟首次将分级监管写入法律，而美国仍处于提案阶段，缺乏联邦层面的硬性约束。
杰弗里·辛顿的警钟：我们需要一个AI版的国际原子能机构
被誉为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）在2025年4月接受BBC采访时再次强调：“AI对人类的威胁可能比气候变化更紧迫，因为它的发展速度是指数级的。”他呼吁成立一个类似于国际原子能机构的全球性AI监管组织，负责追踪各国研发动态、制定安全标准并实施现场检查。辛顿指出，目前全球仅有约2%的AI研究人员专注于安全性研究，而96%的资金流向了能力提升领域，这种失衡必须通过国际条约来纠正。
常见问题解答
Q1：AI监管的核电站类比具体指什么？
A1： 它要求AI公司在发布前沿模型前进行多层次的独立安全审查，包括外部审计、红队对抗测试、事故应急方案，并预留充分的缓冲时间（通常建议6个月以上）。类似核电站必须通过设为安全壳、多重停堆系统、应急演练等“纵深防御”机制，AI模型也应当具有“能力隔离”、“行为审计”和“紧急停机开关”。
Q2：当前有哪些国家已实施此类监管？
A2： 欧盟已通过全球首部《人工智能法案》，但其中的高风险条款将在2025年8月后才逐步适用；中国于2023年8月生效的《生成式人工智能服务管理暂行办法》已要求安全评估；美国联邦层面的类似立法仍在推进，但加州、纽约州等已率先出台州级透明度法案。整体而言，“核电站式”的全面监管尚未在任何国家落地。
未来展望：从自愿承诺到法律硬约束
克里斯蒂亚诺的听证会标志着一个转折点：过去两年AI公司主要依靠自愿承诺来保证安全，如OpenAI、Google DeepMind、Anthropic等签署的《前沿AI安全承诺》。然而，随着模型能力每6-12个月翻番，自愿承诺被证明“远远不够”。2025年7月10日，联合国AI高级别咨询小组发布了一份长达80页的报告，建议各成员国在2027年前完成国内立法，并成立一个全球AI风险登记处。报告引用了多项研究：78%的AI研究人员认为2030年前可能出现“严重失控事件”。在技术加速与监管滞后的赛跑中，前OpenAI安全主管的核电站式呼吁，或许正是破局的关键起点。
