Meteora Web

Anthropic衡量AI自我构建的程度,S-1文件中称递归自我改进(RSI)已近在眼前

Anthropic pubblica indici sull'IA che sviluppa l'IA e nell'S-1 dice di poter essere vicina all'RSI. Cosa dicono i dati e cosa cambia per chi lavora col digitale.

Ing. Calogero Bono 1 分钟阅读
Anthropic衡量AI自我构建的程度,S-1文件中称递归自我改进(RSI)已近在眼前

Anthropic 已发布首批衡量数据,显示其自身的 AI 研究工作已有多少由 Claude 完成。与此同时,在 2026 年 11 月 2 日提交给美国证券交易委员会的 S-1/A 修订版文件中,公司写道自己可能很快满足其对 AI 加速进展的定义。这一点之所以重要,是因为一家大型企业公开了其内部流程的数字,并承认过去未能及时察觉重大的加速。

在进入事实之前,先了解几个术语。 RSI(递归自我改进,recursive self-improvement)是指一种模型参与创造自身后继版本的递归改进机制。AI R&D是人工智能的研发工作。AL是 Epoch AI 的自动化等级量表,从 AL0(无 AI 介入)到 AL5(完全自主)。S-1是上市前提交给美国证券交易委员会的文件。Compute是用于训练和运行模型的算力。

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

Anthropic 衡量了 AI 开发 AI 的哪些方面?

在官方文章中,公司提出了三项衡量工具。第一项涉及相较于人类,AI 在多大程度上构建了自身的下一代版本。第二项是监督和阻止 AI 智能体在内部系统上行动的能力。第三项是支撑更强大模型开发的资源。

Anthropic 构建了一个名为 Anthropic R&D Automation Index 的原型。它对公司内部开展的每一类研究工作进行分类,评估每项工作的自动化程度,并汇总得分。

Claude 目前完成了多少研究工作?

据 Anthropic 称,截至 2026 年 8 月,Claude 在任何被测量的研究工作子集上都不是完全自主的。该模型「主导」了其中 26% 的工作,即在人类监督下,根据高层指令完成了任务的大部分。至少达到「AI 协作」水平的工作比例超过 90%。

这些数据由公司自行披露,未经第三方验证。Anthropic 本身也指出了实验室之间比较的两大障碍,缺乏统一的方法论,而且评估者是公司自己的模型,可能会像被评估的模型一样出错。

如何监管 AI 智能体?

截至 2026 年 8 月,在最常用的内部平台上,约有 30,000 个智能体同时从事研究和工程工作。这些衡量仅覆盖该平台。Anthropic 提出了三项指标。

  • 覆盖率,即在执行前后经过监控器的操作所占的比例。
  • 复核延迟,即从操作到检查之间的时间,先是自动检查,然后是人工检查。
  • 升级率,即被阻止、重定向或上报的任务所占的比例。

公司表示,单个智能体很少出错,但当智能体数量达到数百万时,罕见事件也会变得频繁。对于在自身流程中使用智能体的人来说,这一问题与越狱和提示注入密切相关。

S-1 对 RSI 风险有何表述?

据 TechCrunch 报道,并经 HDblog 转载,Anthropic 在风险因素部分写道,过去它直到强烈的加速已经发生之后才识别出来。它还补充说,内部估计可能使其「即将」满足其 Responsible Scaling Policy 中关于 AI 显著加速进展的定义。

目前没有任何现有模型被认定超过该阈值。公司表示,不打算让 Claude 在没有重大人工监督的情况下完全自主运行,并正在评估修改政策,以维持人工控制。

需要了解的局限

关于自动化程度的数据来自一个原型指数,由公司自家模型计算得出,未经外部验证。智能体方面的衡量仅涵盖一个平台。算力使用的分析覆盖了 7 月 13 日至 20 日的一周,而我们能获取的官方来源在展示结果之前就中断了,因此我们不予引用。Anthropic 表示将引入第三方观察机构,但这些机构尚待落实。

对从事数字工作的人意味着什么

对于企业或开发者而言,信号在于 AI 已经编写了开发者大部分的代码和分析。最好不要把助手当作绝对可靠的工具,并始终安排人工复核。通过 API 集成模型的人应当预期更新频繁,且不同版本之间的行为可能发生变化。欧洲的监管同样如此,正如 EU AI Act 指南中所述,其核心同样是模型的透明度。

我们的看法

公开自身流程的指标是有益的一步,而且很少见。但这属于自我评估,而 S-1 同时也是一份营销文件,正如 TechCrunch 所提醒的。其价值将取决于独立验证,而不是百分比本身。承认过去错过了加速期令人印象深刻。如果属实,问题不仅在于速度,还在于能否及时察觉。

常见问题

什么是 RSI?

是自主的递归自我改进。一个模型参与创造更强大的自身版本,从而加速下一代的诞生。按照 Anthropic 的定义,极端情形是模型完全自主地构建其后继者。

Anthropic 的 AI 已经能自己构建自己了吗?

还没有完全做到。Anthropic 表示,Claude 在任何被测量的子集上都不是完全自主运行的。但它主导了 26% 的此类工作,并在超过 90% 的研究工作中提供协作。

Anthropic 是否说 RSI 即将到来?

它表示自己可能很快就会满足其政策中关于 AI 加速进展的定义。目前没有任何现有模型被认定超过该阈值,公司仍在评估数据。

谁来核实这些数字?

目前没有外部机构参与。Anthropic 计划引入多个机构的独立评估人员,并让其接触内部流程和数据。此前 METR 曾检验过其离线监测机制。

为什么有人持怀疑态度?

因为 S-1 既是向投资者披露信息的文件,也是为公司做宣传的工具。宣称接近能够自我构建的模型,也可能有形象塑造的作用,正如 TechCrunch 所指出的。

外部验证与人工控制规则,值得关注的信号

未来几个月将揭示这些数字会成为行业标准,还是只是孤立的举措。第三方验证以及政策可能的修订至关重要。

  • 留意承诺中的独立观察机构是否到位,以及它们能够查看哪些数据。
  • 关注 Responsible Scaling Policy 中关于保持人工控制的更新。
  • 查看其他实验室是否发布了可与相同指标对比的衡量结果。

来源

Zenithby Meteora Web 你企业的操作系统。 社交媒体、客户、预订和发票都在同一个平台。适合健身房、理发店和专业人士。 了解 Zenith → 免费演示 · 无需信用卡

相关阅读

博客精选

最新文章