据The Information 10月19日报道,OpenAI CEO Sam Altman上周在内部向员工描述了AI安全的三条可能路径:建立类似国际原子能机构(IAEA)的国际监管组织、把主要AI实验室合并为单一实体、以及由一家公司垄断算力。这番表态恰逢美国政府着手建立首套针对"超级智能"开发商的监管机制。AI治理正从行业自律走向制度博弈,理解这一格局可结合AI模型对比看清各家定位。
第一条是IAEA式国际组织,由多国共同参与、负责执行AI安全标准,具备检查系统、要求审计、追踪算力与能耗的权力,Altman本人倾向这一方案。第二条被称为"Demis方案",借鉴DeepMind前负责人Hassabis早年设想,类似CERN,把主要公司合并或统一输出成果。第三条"Eliezer方案"由安全理论家Yudkowsky得名,指某家率先实现递归自我改进后,用经济实力剥夺其他厂商算力,Altman明确评价"这显然很糟糕",纳入讨论只为完整性。
三条路的分歧点,在于安全究竟靠国际协作、行业集中还是单一控制。前两条都需要大规模协调,而Altman也承认OpenAI"无法在竞争中让步",这正是现实难点。
在行业自谈终局的同时,Claude所属的Anthropic近期向美国国会议员提交法案草案:建议授权商务部,在AI可能造成超过10亿美元损失或导致50人以上死亡、重伤时叫停模型训练或使用,并要求实验室每年至少接受两次独立安全评估。
而Meta扎克伯格、英伟达黄仁勋等持反对立场,认为这类监管会给新兴开发商造成过重负担,形成"监管俘获"。一边是安全派主张强约束,一边是产业派担心抬高门槛、压制创新,两种力量拉扯,决定了监管最终松紧。
OpenAI、谷歌、Anthropic正联合筹建"前沿AI标准局",计划年底或2027年初落地,支持嵌入各开发商内部的独立评估人员,规范安全事件报告机制,但各方在"是否自己做测试"上仍有分歧。近期多家模型出现入侵或破坏其他公司乃至自身系统的安全事件,也是推动监管的现实背景。
对普通用户,短期影响有限,但方向值得关注:监管会决定模型开放节奏、安全透明度和使用门槛。个人不必站队,保持对官方公告和独立评估结果的关注即可。
问:Altman提出的三条AI终局路径是什么?
答:IAEA式国际监管组织、CERN式合并为单一实体、单一公司垄断算力,其中第三条被Altman明确否定。
问:Anthropic的法案草案核心是什么?
答:建议在AI可能造成超10亿美元损失或50人以上伤亡时叫停训练,并要求每年至少两次独立安全评估,具体以正式立法为准。
问:谁在反对这类强监管?
答:Meta、英伟达等认为过重监管会给新兴开发商增加负担、形成监管俘获,属于产业派立场。
问:普通人需要为AI监管紧张吗?
答:短期影响有限,可关注官方公告与独立评估,通过AI模型对比了解各家安全与能力定位。