Meteora Web

Anthropicは、AIが自らを開発する度合いを測定し、S-1では再帰的自己改善が近いと警告

Anthropicは、AIがAIを開発する度合いを示す指標を公表し、S-1では再帰的自己改善に近づいている可能性に言及しました。データの内容とデジタル業務への影響を解説します。

Ing. Calogero Bono 1 分で読めます
Anthropicは、AIが自らを開発する度合いを測定し、S-1では再帰的自己改善が近いと警告

Anthropicは、自社のAI研究のうちClaudeがすでに担っている部分を測定した最初の結果を公表しました。同じ時期、2026年11月2日にSEC(米証券取引委員会)へ提出したS-1/A(改訂版の上場申請書類)において、同社はAIによる加速的進歩という自社の定義をまもなく満たす可能性があると記しています。大企業が自社の内部プロセスに関する数値を示し、過去には重要な加速を見過ごしていたことを認めた点が重要です。

事実に入る前に、いくつかの用語を確認しておきましょう。 RSI(再帰的自己改善)とは、あるモデルが自らの後継モデルの開発に貢献する仕組みを指します。AI R&DはAIに関する研究開発を意味します。ALはEpoch AIの自動化尺度で、AL0(AIの介入なし)からAL5(完全な自律)までの段階があります。S-1は株式上場の前にSECへ提出される書類です。コンピュートは、モデルの学習や運用に使われる計算資源のことです。

Zenithby Meteora Web あなたのビジネスのオペレーティングシステム。 SNS、顧客、予約、請求書をひとつのプラットフォームで。ジム、バーバー、専門職の方に。 Zenith を見る → 無料デモ · カード不要

Anthropicは、AIがAIを開発する度合いについて何を測定したのですか?

同社の公式投稿では、3つの測定手段が提示されています。1つ目は、AIが人間と比べてどの程度次のバージョンの自分自身を構築しているかです。2つ目は、社内システム上でAIエージェントの行動を監督し停止させる能力です。3つ目は、より高性能なモデルの開発を支える資源です。

Anthropicは、Anthropic R&D Automation Indexと呼ばれる試作の指標を構築しました。これは、社内で行われるあらゆる種類の研究作業を分類し、それぞれがどの程度自動化されているかを評価して、スコアを集計するものです。

Claudeはすでにどれほどの研究作業を行っているのですか?

Anthropicによると、2026年8月時点で、Claudeは測定された研究作業のどの部分集合においても完全に自律して動作してはいません。モデルが作業の26%を「主導」しており、これは高レベルの指示から作業の大部分を完了させ、人間が監督する状態を指します。少なくとも「AIが協働する」水準にある作業は、90%を超えています。

これらは同社が公表したデータであり、第三者による検証は受けていません。Anthropic自身も、研究所間の比較には2つの障害があると指摘しています。共通の方法論がないこと、そして評価を行うのが自社のモデルであり、管理対象と同様に誤りを犯す可能性があることです。

AIエージェントはどのように管理されているのですか?

2026年8月時点では、研究とエンジニアリングの分野で、最も利用の多い社内プラットフォーム上に約3万のエージェントが同時に稼働していました。測定はそのプラットフォームのみを対象としています。Anthropicは3つの指標を提案しています。

  • カバレッジ、実行の前後で監視を経由する行動の割合です。
  • レビュー遅延、行動と確認のあいだの時間で、最初は自動、その後は人間によるものです。
  • エスカレーション率、ブロック、転送、または報告された作業の割合です。

同社は、個々のエージェントが誤ることは稀であるとしつつ、数百万のエージェントがあれば稀な事象も頻繁に起こりうると述べています。自社の業務にエージェントを用いている人にとって、この問題はジェイルブレイクやプロンプトインジェクションの問題とも近い関係にあります。

S-1は再帰的自己改善のリスクについて何と述べているのですか?

TechCrunchが報じ、HDblogも取り上げたところによると、Anthropicはリスク要因の中で、過去には大きな加速が起きた後になるまで特定できなかったと記しています。さらに、社内の推定により、同社の責任ある拡張方針(Responsible Scaling Policy)が定めるAIによる劇的な加速的進歩の定義を、「まもなく」満たす可能性があるとも述べています。

現時点で閾値を超えたとされるモデルはありません。同社は、Claudeを人間による有意な監督なしに完全自律で使用する予定はないとし、人間による管理を維持するために方針の変更を検討していると述べています。

知っておくべき限界

自動化に関する数値は、試作段階の指標に基づくものです。同社のモデルを用いて算出され、外部による検証は受けていません。エージェントに関する測定は、単一のプラットフォームのみを対象としています。コンピュートの利用分析は7月13日から20日までの1週間を対象としており、入手できた公式資料は結果が示される前で途切れているため、本記事では取り上げません。同社が導入を予定しているとする第三者の監視機関の動向は、今後の確認が必要です。

デジタル分野で働く人々にとっての変化

企業や開発者にとって重要なのは、AIがそれを開発する人々のコードや分析の大部分をすでに書いているという点です。アシスタントを絶対確実なツールとみなさず、常に人間によるレビューを組み込むことが望ましいでしょう。API経由でモデルを組み込んでいる場合は、迅速な更新やバージョン間での挙動の変化に備える必要があります。また、EU AI Act解説で扱われている欧州の規制も、モデルの透明性を軸にしています。

編集部の見解

自社のプロセスに関する指標を公表することは、有益でありまた稀な取り組みです。ただし、それは自己評価にすぎず、S-1は宣伝的な側面も持つ文書だとTechCrunchも指摘しています。価値を決めるのはパーセンテージそのものではなく、独立した検証の有無です。過去の加速を見逃していたという認めた点は印象的です。それが事実であれば、問題は速度だけでなく、変化に適時に気づく能力にあるといえます。

よくある質問

RSIとは何ですか?

自律的な再帰的自己改善のことです。あるモデルが自らより高性能な版の開発に貢献し、それが次の世代の開発を加速させます。Anthropicの定義では、極端な場合としてモデルが完全に自律して後継モデルを構築することを指します。

AnthropicのAIはすでに自分自身を開発しているのですか?

完全にではありません。Anthropicは、測定したどの部分集合においてもClaudeが完全に自律して動作しているわけではないと述べています。ただし、研究作業の26%を主導しており、90%を超える作業で協働しています。

Anthropicは、RSIが間近に迫っていると言っているのですか?

同社の方針が定めるAIによる加速的進歩の定義を、近いうちに満たす可能性があると述べています。現時点で閾値を超えたとされるモデルはなく、同社はなおデータを評価しています。

これらの数値は誰が検証しているのですか?

現時点では外部の主体による検証はありません。Anthropicは、複数の組織から独立した評価者を招き、内部のプロセスとデータへのアクセスを認める予定です。以前にはMETRが同社のオフライン監視を検証したことがあります。

懐疑的な見方があるのはなぜですか?

S-1は情報提供と企業の宣伝の両方を目的としているからです。自己を作るモデルに近づいていると述べることは、TechCrunchが指摘するように、企業イメージの面でも機能しうるためです。

外部検証と人間による管理のルール、注目すべき兆候

今後数か月で、これらの数値が業界標準となるのか、それとも単独の取り組みにとどまるのかが明らかになるでしょう。第三者による検証と、方針の変更の有無が鍵となります。

  • 約束された独立した監視機関が実際に参加するか、またどのようなデータにアクセスできるかを確認してください。
  • 人間による管理の維持に関するResponsible Scaling Policyの更新を追ってください。
  • 他のAI企業が同じ指標で比較可能な測定結果を公表しているかを確認してください。

出典

Zenithby Meteora Web あなたのビジネスのオペレーティングシステム。 SNS、顧客、予約、請求書をひとつのプラットフォームで。ジム、バーバー、専門職の方に。 Zenith を見る → 無料デモ · カード不要

あわせて読みたい

ブログから

最新の記事