“AI会导致人类灭绝”？特朗普直接否认，硅谷内部却越来越不安

    FX168财经报社(亚太)讯 美国总统特朗普周四(9月10日)淡化了人工智能可能失控、甚至威胁人类生存的警告，强调美国当前更重要的任务是继续维持AI领域的技术领先优势。与此同时，OpenAI和Anthropic内部围绕前沿模型安全性的担忧明显升温，使美国AI产业再次陷入“技术竞赛”与“安全约束”之间的争论。

特朗普当天离开达拉斯时被记者问及，是否担心AI最终可能导致人类灭绝。

他回答称：“不，我没有这种担忧。”特朗普随后表示，他真正担心的是，如果美国不能在AI竞争中保持领先，将处于非常不利的位置。

他表示，美国目前仍保持一定技术优势，而在AI这样快速发展的领域，即便一年的领先时间，也可能具有重要意义。

这番表态进一步凸显出特朗普政府当前AI政策的核心优先级：与潜在长期安全风险相比，保持技术领先、扩大AI基础设施投资以及加快先进模型落地，被置于更加突出的位置。

白宫此前公布的AI政策框架已经明确提出，美国应加快AI创新、基础设施建设以及国家安全领域应用，同时继续巩固自身在全球人工智能产业中的领先地位。

AI安全争议突然升温

特朗普作出上述表态之际，AI安全问题本周重新成为硅谷和美国政策界讨论焦点。

此前，一名Anthropic研究人员辞职，并公开警告当前大型AI公司正在过快推进可能具备“自我改进”能力的前沿模型。

Jacob Coxon表示，自己过去三年曾分别在Anthropic和OpenAI工作。他在社交媒体X上警告，相关企业正在竞相开发“自我改进型超级智能”，而这种技术可能最终脱离人类控制。

Coxon称，未来更高级的AI系统可能在网络攻击、科学研究以及资源获取等方面获得远超当前水平的能力。

他还表示，一些直接参与前沿AI研发的人士确实认为，高级AI在本十年结束前存在引发极端风险的可能。

Anthropic现任研究人员Evan Hubinger随后公开表示认同这种担忧，并称自己估计未来十年发生极端AI风险的概率超过10%。

这些观点并不代表整个AI行业的共识，但再次凸显出前沿模型开发者内部长期存在的一项核心争论：能力进步的速度，是否已经开始超过安全研究和治理机制的发展速度。

OpenAI也开始讨论是否“踩刹车”

值得注意的是，部分头部AI企业管理层对这一风险并非完全忽视。

据知情人士透露，OpenAI首席执行官Sam Altman本周向员工表示，公司正在考虑适当放慢最前沿AI模型的开发速度，并希望其他主要AI企业也采取类似行动。这意味着，即便在全球AI竞争进一步升温的情况下，行业内部对于“是否应该继续不计成本地追求更强模型”已经出现更加明显的分歧。

问题在于，对任何一家头部AI公司而言，单方面放缓研发都存在巨大商业风险。

OpenAI、Anthropic、Google、Meta以及其他大型科技公司目前正围绕模型能力、算力、企业客户以及开发者生态展开激烈竞争。

如果其中一家企业主动降低研发速度，而其他竞争对手继续推进，就可能迅速失去技术领先优势。而如果所有企业都选择继续加速，又可能增加安全治理跟不上技术进步的风险。这构成了AI行业最典型的“囚徒困境”。

特朗普政府明显站在“先保持领先”一边

从政策方向来看，特朗普政府目前明显倾向于降低监管壁垒、扩大投资和加速商业部署。

美国政府此前公布的AI政策框架提出，应在保护公众利益的同时，避免监管政策过度限制AI产业创新能力，并希望通过更加统一的监管体系减少政策碎片化。

因此，特朗普此次明确表示“不担心AI导致人类灭绝”，基本延续了其政府此前的政策逻辑。即：AI首先被视为一项经济竞争和国家安全技术，而不是优先需要限制发展的潜在风险源。

全球AI竞争成为政策核心变量

特朗普此次强调技术领先，也凸显出全球AI竞争正在越来越直接地影响美国监管政策。

对于华盛顿而言，AI已不仅是一项科技产业，而是与芯片、数据中心、电力、网络安全、军事能力和经济生产率直接相关的战略资产。这意味着，美国每增加一项针对前沿模型的安全限制，都需要同时评估其是否会减缓本国企业研发速度，从而削弱其在全球AI产业中的竞争优势。

这也是当前AI安全争论最难解决的地方。

从技术研究者角度看，能力越强的模型越需要更严格的可控性测试和安全机制。但从产业和战略竞争角度看，任何主动放慢研发的行为，都可能意味着让出技术和商业优势。

对华尔街意味着什么？

这一争论同样直接关系到资本市场。

过去几年，美股AI行情的核心逻辑之一，就是大型科技企业会持续投入数千亿美元建设数据中心、芯片、网络和电力基础设施。

如果美国政策继续优先推动AI发展，意味着大型科技公司的资本开支周期短期内仍可能保持高位，对英伟达、博通、数据中心、电力基础设施以及云计算产业链构成支撑。

相反，如果AI安全争议最终推动美国建立更严格的前沿模型监管制度，或者主要AI实验室共同决定放慢最先进模型的开发速度，则可能改变市场目前对于算力需求持续高速增长的预期。

因此，这场争论并非只是哲学意义上的“AI会不会失控”。

对于投资者而言，更实际的问题是：美国最终会选择继续踩下AI竞赛的油门，还是开始为前沿模型增加更强的刹车。

目前来看，特朗普给出的答案相当明确——至少在全球AI产业竞争仍然激烈的阶段，美国政府更担心的并不是AI发展得太快，而是发展得不够快。

这也意味着，未来围绕AI监管的真正冲突，可能不再只是“安全与创新”之间的传统争论，而会进一步演变成安全风险、产业利益和全球技术竞争三者之间的博弈。