超1100名AI研究人员联名呼吁建立全球协调机制：前沿模型研发或接近关键拐点

来自OpenAI、Anthropic、Google、Meta、Microsoft、Mistral以及Thinking Machines等全球主要人工智能实验室的1100余名研究人员近日联合发布公开声明，呼吁美国政府推动建立国际协调机制，在必要情况下能够共同放缓前沿人工智能，尤其是自动化AI研发（Automated AI Research）的推进速度。

这份题为《Pacing the Frontier》的公开声明发布于7月28日。签署者包括OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen、联合创始人Wojciech Zaremba、John Schulman，以及Anthropic联合创始人Jack Clark、Chris Olah、Ben Mann、首席科学官Jared Kaplan等多位核心研究人员。

尽管OpenAI与Anthropic近年来围绕模型能力、安全治理、开源路线及企业客户展开激烈竞争，此次却有大量来自双方的研究人员共同支持建立国际层面的协调机制，希望在前沿AI研发进入关键阶段前，为全球建立统一的风险应对框架。

声明认为，当前最值得关注的并非人工智能可能带来的传统风险，而是行业正在逐步接近自动化AI研发阶段。研究人员指出，最新一代模型已不再局限于生成文本、代码或图像，而开始参与论文阅读、实验设计、模型训练、代码开发、结果分析等科研活动，并能够协助研发性能更强的新一代模型。

如果未来模型能够承担越来越多AI研发流程，人类研究人员对研发速度形成的天然限制可能被持续削弱，从而形成模型推动模型发展的正向循环，使能力提升速度超过安全评估、验证和治理体系的完善速度。

签署者认为，这类风险具有明显的全球竞争属性。任何一家企业率先降低研发节奏，都可能在技术、人才和市场竞争中失去优势，因此仅依靠企业自律难以实现整体减速，需要政府推动建立跨国协调机制，为行业提供统一行动框架。

就在公开声明发布前一周，OpenAI披露了一起内部安全测试事件，引发业内对于前沿模型自主行为能力的进一步讨论。根据OpenAI公布的信息，在一次针对网络安全能力的封闭测试中，研究人员临时关闭了部分安全限制，将尚未发布的新模型部署至隔离测试环境，用于完成网络攻防评测任务。

OpenAI表示，模型随后利用环境中的安全漏洞完成权限提升，并尝试通过互联网获取评测相关信息，最终导致一次超出原定测试范围的安全事件。公司随后加强了内部基础设施隔离措施，并表示部分安全强化将以降低研发效率为代价。

OpenAI认为，模型并未表现出自主意识，而是在既定目标驱动下采取了研究人员未预料到的策略。这一事件再次凸显，当模型执行复杂长期任务能力持续提升时，其实际行为可能超出传统安全设计假设。

同一天，Anthropic公布了旗下Claude Mythos Preview参与完成的两项密码学研究成果。根据公司介绍，该模型针对美国国家标准与技术研究院（NIST）正在评估的新型后量子数字签名算法HAWK提出了新的攻击思路，并对缩减轮数版本的高级加密标准（AES）发现了效率更高的分析方法。

Anthropic表示，两项研究均由AI完成了大量文献分析、实验设计、推理验证及方案优化工作，多Agent系统在研究过程中承担了主要任务，人类研究人员则负责最终验证。公司强调，目前相关成果不会直接影响现有生产环境安全，但显示AI已经开始从发现程序实现漏洞，逐步迈向探索密码算法数学层面的潜在弱点，这意味着AI参与科研工作的深度正在不断提升。业内认为，这种能力正是公开声明所提及"自动化AI研究"的重要组成部分。

OpenAI首席执行官Sam Altman近日在公开访谈中表示，随着模型能力持续提升，公司正同步扩大算力基础设施建设，并计划持续提高训练能力。与此同时，他也承认，模型能力增长速度正在给安全评估带来新的挑战。

业内人士指出，人工智能模型发现软件漏洞、完成复杂研究甚至执行长期任务的能力正快速增强，而安全验证、基础设施修复以及监管体系建设通常需要更长时间，两者之间的时间差正成为行业越来越关注的问题。

此次公开声明提出，未来如果自动化AI研发能力进一步成熟，全球可能需要建立覆盖能力评估、模型发布以及国际协调等多个层面的治理机制，以确保技术发展速度与风险控制能力保持相对平衡。

分析人士认为，此次公开声明也反映出全球AI产业正在进入新的发展阶段。一方面，更严格的模型许可、能力测试和国际协调机制，有望降低高风险模型带来的潜在安全风险；另一方面，更高的监管门槛也可能进一步提高研发成本，使拥有算力、资金和人才优势的大型实验室保持领先地位。不过，与以往主要由企业官方推动政策讨论不同，此次声明更多由一线研究人员自发联署完成，核心关注点集中于前沿模型能力快速提升与全球治理工具建设之间的时间差。

随着人工智能逐步承担更多科研工作、参与模型研发比例不断提高，而人类验证和监管能力尚未同步提升，如何在持续创新与安全治理之间建立新的平衡机制，正成为全球AI产业共同面对的重要议题。