比尔·盖茨突然发出重磅警告：AI已强大到可能引发“10亿人死亡”的灾难

    FX168财经报社(北美)讯 曾长期被视为人工智能坚定乐观派的微软联合创始人比尔·盖茨（Bill Gates），正在明显强化对AI安全风险的警告。他最新表示，人工智能已经“强大到足以推动可能导致10亿人死亡的事件”，并呼吁政府、执法机构和科技行业尽快建立更严格的安全保障与监测机制。#AI热潮：从芯片到资本的竞赛#

盖茨的重点并不是预测AI一定会造成如此严重的后果，而是担心先进AI工具落入恶意行为者手中后，可能被用于放大生物安全、军事攻击和其他高破坏性风险。他认为，仅靠科技企业自我约束已经不足以应对这一问题，政府必须更直接参与。

盖茨：不能只靠科技公司自己管自己

盖茨在接受NBC《会见新闻界》（Meet the Press）采访时表示，围绕AI安全，执法部门和政治决策者都需要参与讨论，明确未来的保障措施和监测机制。

他的担忧与当前硅谷越来越激烈的AI安全争论相呼应。Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近期也主张放慢最前沿AI系统的发展速度，并推动更严格的外部监督。Anthropic目前公开提出了一套随着模型风险提高而逐步加强监管的框架，包括第三方安全评估、事故报告以及在极高风险情况下赋予政府阻止危险部署的权限。

Anthropic近期的研究也显示，最先进AI模型在部分军事和情报任务中的能力已经明显提高，包括目标识别、无人机相关工程以及其他过去通常需要专业人员完成的任务。该公司认为，这类能力提升进一步说明先进模型需要更严格的安全防护。

AI巨头开始讨论“踩刹车”

阿莫代伊并不是唯一要求提高警惕的科技行业领袖。围绕是否应放慢AI开发速度，萨姆·奥尔特曼（Sam Altman）、埃隆·马斯克（Elon Musk）等科技界人士也曾表达对加强安全机制和监管的支持。

Anthropic甚至提出，全球如果能够建立可信、可验证的协调机制，那么暂时放慢甚至暂停最前沿AI开发，可能为安全研究和社会治理争取更多时间。不过，该公司同时警告，如果只有部分企业或国家减速，而其他参与者继续推进，反而可能带来新的安全风险。

这种争论的核心已经逐渐从“AI是否有风险”，转向“谁应该决定什么时候减速，以及如何确保所有参与者都遵守规则”。

华盛顿仍倾向谨慎监管

美国政府目前对进一步扩大AI监管仍较为谨慎。特朗普政府总体上倾向于对AI采取相对宽松的监管方式，并强调美国在全球AI竞争中的领先地位。不过，特朗普近期也表示，如果确有必要，司法部和其他执法机构可以介入限制AI风险，同时仍主张保持较轻的监管力度。

这意味着，美国政策层面正在形成一种复杂平衡：一方面希望AI企业继续高速创新，避免在全球技术竞争中失去优势；另一方面，模型能力快速提升带来的国家安全、网络攻击和生物风险，又迫使政府开始考虑更强的监督机制。

微软内部态度也出现微妙变化

微软首席执行官萨提亚·纳德拉（Satya Nadella）此前更强调企业自身承担安全责任。他认为，如果开发过程中发现可能导致失控AI代理等严重问题，就应该立即停止相关开发或部署。

但即使在微软内部，对AI安全的重视程度也在明显提高。纳德拉近期向员工强调，企业必须为确保技术安全留出足够时间。

盖茨目前仍担任微软技术顾问，他本人的态度变化尤其值得关注。过去几年，他一直强调人工智能在医疗、教育、生产力和科研领域的巨大潜力，但今年夏季以来，他开始更加频繁地讨论AI可能造成的社会、政治和经济冲击。

从乐观到警告，盖茨态度正在变化

盖茨此前曾表示，世界目前缺乏一套可信的AI安全部署方案，需要为即将到来的社会、政治和经济巨变提前做准备。

他甚至表示，如果存在一套真正可信、能够在全球范围内减缓AI技术进步的方案，他可能会支持。

这并不意味着盖茨已经转向反对人工智能。他仍然认为AI拥有巨大的经济和社会价值，但他的关注重点已经明显发生变化：过去更多讨论AI“能够做什么”，现在则越来越关注一个更迫切的问题——在人类真正学会控制这项技术之前，它会不会发展得太快？

目前，硅谷在这一问题上仍远未形成统一答案。一部分企业认为政府应该尽快建立监管框架，另一部分科技领袖则担心过早监管会限制创新，并削弱美国在全球AI竞争中的优势。

但随着AI代理、网络攻击、生物研究和军事应用能力不断提高，围绕AI安全的争论正在从一种长期假设，迅速变成科技行业和政府必须面对的现实政策问题。