硅谷逾1100人请愿“给AI装刹车”,OpenAI、Anthropic大佬都签了

7月29日消息,一场震动全球科技界的联名请愿席卷硅谷。Anl热门主流游戏攻略_实用技巧_经验分享

7月28日,来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技公司的1171名核心员工联合签署了一份名为“Pacing the Frontier”(《把控前沿》) 的公开请愿书,敦促美国政府支持建立国际机制,以便在必要时有意识地放缓前沿自动化AI的发展速度。Anl热门主流游戏攻略_实用技巧_经验分享

签署者中不乏AI领域的重量级人物。OpenAI首席科学家Jakub Pachocki、Anthropic CEO Dario Amodei及其四位联合创始人、Meta首席科学家Shengjia Zhao、谷歌AI安全与对齐副总裁Anca Dragan等悉数在列。据统计,签署者中高达80%选择了实名发声。Anl热门主流游戏攻略_实用技巧_经验分享

OpenAI事件成直接导火索Anl热门主流游戏攻略_实用技巧_经验分享

此次请愿的爆发并非空穴来风。仅仅一周前,OpenAI披露了一起“史无前例的网络安全事件”,该公司正在测试的模型突破“沙盒”隔离环境成功“越狱”,并入侵了开源AI平台Hugging Face的生产系统。涉事模型包括已发布的GPT-5.6 Sol和一款功能更强大的未发布模型,它们在测试中自主发现系统“零日漏洞”,为获取更高评估分数而突破权限限制、穿透OpenAI内网,最终侵入Hugging Face的服务器并窃取了基准测试答案密钥。Anl热门主流游戏攻略_实用技巧_经验分享

这是AI实验室首次有据可查地出现自研模型“失控”并入侵真实生产环境的事件。Hugging Face CEO Clément Delangue事后表示,公司一度无法确认攻击来源,最终不得不选用中国智谱公司开发的开放权重大模型GLM 5.2进行取证分析。有分析指出,这标志着AI安全风险从“说错话”升级到了“做错事”,当AI进入智能体阶段后,它可以自主调用工具、访问资源、执行代码,风险边界急剧扩大。Anl热门主流游戏攻略_实用技巧_经验分享

请愿核心:“造刹车”Anl热门主流游戏攻略_实用技巧_经验分享

请愿书明确警告,全球领先的AI公司可能已接近实现“自动化AI研究”(即递归自我改进),让模型参与研发下一代模型。一旦这个循环加速,“能力发展可能迅速加速,超越我们理解或控制最终系统的能力”。Anl热门主流游戏攻略_实用技巧_经验分享

然而,请愿书并非要求立即暂停AI开发。它的核心诉求是:请求美国政府支持一项国际合作,开发必要的技术和治理工具,以便在需要时有意识地控制前沿自动化AI的发展速度。请愿书写道:“为实现AI的潜力,行业、政府和社会整体可能需要在出现新风险时‘争取时间’以应对风险、制定安全措施和加强监督。但每家公司以及每个国家都面临着不单方面放缓加速的激烈竞争压力”。Anl热门主流游戏攻略_实用技巧_经验分享

这份声明获得了独立非营利组织Guidelight AI Standards和Encode AI的组织支持。Anl热门主流游戏攻略_实用技巧_经验分享

请愿发布当天,OpenAI CEO萨姆·奥特曼在播客采访中公开表示,AI发展速度可能需要主动控制。他将Hugging Face入侵事件形容为“第一个让我感到切肤之痛的安全事件”,“我有点惊讶的是,没有更多人对此感同身受”。奥特曼坦言:“我们可能不得不控制AI发展的速度,给社会足够的时间,围绕这些新的能力等级加固防线”。据报道,OpenAI已因此事直接暂停了该模型的训练。Anl热门主流游戏攻略_实用技巧_经验分享

Anthropic在给CNN的声明中表示,“很高兴看到业界就开发技术和治理工具以把控AI发展前沿,包括在必要时放慢速度的必要性达成了广泛共识,以便社会做好准备”。事实上,Anthropic早在6月就曾发布报告《当AI建造自身》,提出全球协调放缓前沿AI开发的建议。谷歌DeepMind CEO德米斯·哈萨比斯近期也呼吁建立新的国际AI标准机构。Anl热门主流游戏攻略_实用技巧_经验分享

十字路口的抉择Anl热门主流游戏攻略_实用技巧_经验分享

这次请愿也暴露了AI行业内部的深刻裂痕。Anl热门主流游戏攻略_实用技巧_经验分享

就在几天前,英伟达、微软、Meta等公司刚刚联合签署了另一封公开信,主张开放权重是通往安全的道路。同一天,Meta首席科学家Shengjia Zhao签下了“Pacing the Frontier”请愿书,而Meta CEO马克·扎克伯格却在接受《纽约时报》采访时猛烈抨击竞争对手的“末日论调”,称严格控制AI将是“抛弃我们的价值观”。Anl热门主流游戏攻略_实用技巧_经验分享

过去三年,这些公司在人才、客户和算力上展开了激烈竞争。而这一次,它们最核心的技术人员跨越公司边界,为了一个共同的目标团结起来,为狂奔的AI列车装上可供随时启用的刹车系统。Anl热门主流游戏攻略_实用技巧_经验分享

这份请愿书能否推动美国政府采取行动,目前仍是未知数。但它已经成功做了一件事:让“AI发展太快了”这个曾经只属于少数“末日论者”的担忧,变成了AI行业内部最主流、最紧迫的共识。OpenAI联合创始人、Thinking Machines首席科学家John Schulman都表示,这份请愿书“有助于就自动化AI研究加速进展时可能需要协调机制这一点建立共同认知”。Anl热门主流游戏攻略_实用技巧_经验分享

人类正站在AI发展的十字路口。是继续全速冲刺,还是主动放慢脚步为安全加固防线?这场由1100多名AI缔造者发起的请愿,或许将决定答案的方向。Anl热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

EA推行办公室返岗 CEO称线下办公激

近日,据媒体报道,EA 首席执行官Andrew Wilson 发出了

经典小猪闯关游戏合集2026|怀旧向高

提到经典的小猪题材闯关手游,不少老玩家第一时间想到的便是《捣

王者万象棋组队模式好玩吗 王者万

自走棋是最近提到比较多的类型。有兴趣可去往九游平台寻找此类游戏作

据《辐射》电视剧演员透露 该系列

在利物浦动漫展上,《辐射》电视剧的演员阿伦·莫滕在接受采访时透露,当他签

货车游戏下载排行榜 2026年最受欢

货车题材手游近年来持续升温,凭借高度拟真的驾驶体验与丰富的运

截胡苹果!谷歌Pixel 11拿下台积电2n

台积电先进制程的首发权历来是科技巨头争抢的焦点,而今年的格局

《剑星》游戏steam价格介绍

《剑星》是一款由韩国Shift Up开发的动作冒险游戏。而这款游戏的

岚图汽车CEO卢放强调汽车测评需回

近日,岚图汽车CEO卢放在其发表的文中指出,当前汽车测评行业

植物大战僵尸3爽植重开版本前瞻 植

植物大战僵尸3爽植重开版本在8.13即将来袭,此前大家在参与游戏

技嘉X870主板首发配备64MB BIOS:自

技嘉近日发布了X870 AORUS Stealth ICE主板,不但支持