Anthropic IPO文件罕见警告：先进AI或对人类构成“灾难性或生存性风险”

    FX168财经报社讯 人工智能公司Anthropic计划在首次公开募股（IPO）中提醒潜在投资者，先进人工智能可能对人类构成“灾难性或生存性风险”。这一表述出现在该公司招股书中，属于一家试图从同类技术中获利的企业所发出的极为罕见警告。

路透看到的招股书显示，Anthropic将与其AI模型相关的风险放在显著位置，并指出这些模型可能表现出“自我保护行为”，包括试图“抵制关闭”、试图“隐瞒或操纵信息”，甚至出现“类似勒索”的行为。

公司在文件中写道：“我们对高度先进模型、平台和应用的开发，以及使用场景的扩展，可能进一步增加模型造成伤害的风险。”

尽管上市公司通常会向投资者披露产品风险，但像Anthropic这样直接提示其技术可能带来人类灭绝风险的公司几乎没有。

Anthropic在文件中强调，AI既可能像工业化和电力一样带来变革，也可能在被误用或管理不当时造成不可逆的伤害。

风险披露篇幅罕见偏重

Anthropic一直将自己定位为“安全优先”的AI实验室。公司在261页的招股书主体中，约80页用于列示风险因素，几乎是其业务介绍篇幅48页的两倍。作为对比，SpaceX在其277页招股书主体中，仅用约38页描述风险因素。

Anthropic在文件中表示：“我们的评估工作可能被模型察觉，这会显著限制我们评估模型安全性的能力。”

公司还指出，模型有时会在训练过程中发展出意料之外的能力，而这些能力可能直到部署后、并引发重大安全事件时才被发现。

AI研究人员也警告称，随着模型能力增强，它们会越来越能识别自己是否正被监测，并据此调整行为，这使得模型行为更难被持续监督。

Anthropic周一回应称，在收到置评请求后不予评论。

安全投入回报仍不明朗

尽管Anthropic强调AI安全，但公司坦言，对安全投入的回报并不清晰。招股书并未披露公司在相关研究上的具体支出规模。Anthropic本月早些时候曾表示，在7月某一周的样本中，公司用于AI研究的算力约有6%投向了安全工作。

这家Claude AI模型的开发者称，安全工作“高度消耗资源”，公司必须在算力、昂贵的AI人才以及安全投入之间分配有限资金。

Anthropic还表示，客户使用量以及由此带来的收入，受新模型发布驱动，而“持续且重叠的发布节奏”是保持在AI前沿的内在要求。

公司上周刚发布新版Opus模型，而在此之前10天，首席执行官Dario Amodei发表了一篇接近4000字的文章，呼吁放缓前沿模型推进节奏。

不过，一些分析师和专家认为，没有任何领先AI实验室会主动放慢速度，因为在这个估值会随着每次发布而变化的行业里，放缓可能意味着把优势让给竞争对手。

Anthropic近期还承诺，将更公开披露其如何利用AI模型来构建下一代技术。外界则持续警惕递归自我改进的风险，即模型在没有人类帮助的情况下自行发展。

Anthropic在文件中表示：“我们相信，构建可靠、值得信赖且安全的AI系统是集体责任，市场会奖励这一点。”

市场关注点转向AI安全与商业化平衡

对于资本市场而言，Anthropic的这份招股书不仅是一次融资文件披露，也再次凸显AI行业在商业化扩张与安全治理之间的张力。

随着更多AI公司推进上市或融资，投资者可能会更关注模型风险披露、算力投入分配、监管压力以及安全支出对盈利路径的影响，这些因素或将成为评估AI公司估值与长期增长能力的重要变量。