Ing. Calogero Bono
Googleは、第8世代アクセラレータのファミリーを補完する2つの新システム、TPU 8txとTPU 8i Maxを発表しました。4月のCloud Nextで紹介されたTPU 8tと8iに加わるものです。Googleによれば、1年で4つのTPUシステムを導入するのは初めてのことだといいます。対象はより多くのデータを扱い、複数の工程で動作するAIエージェントと、機密データにより強い保護を求める企業です。
事実に入る前に、いくつかの用語を確認します。 TPUは、Googleが人工知能向けに設計するプロセッサです。推論は、学習済みのモデルが要求に応答する段階を指します。コンテキストウィンドウは、モデルが一度に考慮できるテキストの量です。Confidential computingは、メモリ上で処理されている間もデータを保護する仕組みです。HBMとSRAMは、チップの近くに置かれる高速メモリの種類です。
Googleは何を発表したのですか？
Googleの公式投稿によれば、新たに加わるのは2つのシステムです。TPU 8txは保護された機密性の高い推論向けで、小規模な学習にも適するとされています。TPU 8i Maxは非常に大きなコンテキストウィンドウと、ラックあたりの最大の演算密度を目指しています。
4月には、大規模な学習向けのTPU 8tと、リアルタイムの推論向けのTPU 8iが発表されていました。Googleは、前世代と比べて学習で最大2.7倍の性能向上、推論で価格性能比80%の改善を主張しています。このニュースはHDblogでも取り上げられています。
TPU 8txはどのように機能し、誰のためのものですか？
通常、データは保存時やネットワーク上の通信時には暗号化されていますが、処理のためにはメモリ上で復号される必要があります。Googleによれば、TPU 8txは保護をハードウェアの層にまで広げ、機密データやモデルの重みが利用中も隔離されたままになるとしています。TPU 8tと同じシリコンを使い、第5世代AMD EPYC CPUのホストと組み合わせられています。
また、TPU 8iの低遅延Boardflyネットワークも採用しています。Googleによれば、遅延はTPU 8tと比べて最大2分の1になり、性能の低下はほぼありません。対象は規制の厳しい企業や政府機関です。
同じシステム上で学習やカスタマイズ、たとえば非公開データによるファインチューニングを、異なるクラスタ間でデータを移動させずに行えます。
TPU 8i Maxとは何で、何を解決するのですか？
Googleはこれを、いわゆるメモリの壁の問題と結びつけています。数十のエージェントがソースコード全体や何時間もの動画に同時に取り組むと、メモリ帯域がボトルネックになります。その解決策として、2つのTPU 8iチップを1つのパッケージにまとめることが掲げられています。
Googleによれば、その結果、TPU 8iと比べて演算能力、SRAM、HBM帯域がいずれも2倍になります。同じラックに2倍のシリコンが収まるため、データセンターは床面積あたり、また電力あたりにより多くの性能を収容できるとされています。インフラというテーマは、GoogleがワイオミングでCrusoeから取得したデータセンターと共通しています。
開発者にとって何が変わりますか？
Googleはアクセスのしやすさを強調しています。先月、TorchTPUをオープンソースとして公開し、PyTorchのコードやHugging Faceのモデルをコードを書き換えずにTPU上でネイティブに動かせるようになりました。vLLMやSGLangといった推論エンジン向けのバックエンドも用意されています。
TPU向けのエージェントスイートはプレビュー段階ですが、Claude Code、Cursor、Google Antigravityなどのツールと連携し、起動の自動化やボトルネックの診断を行えます。オープンソースのXLA Serving Engineを使えば、Pythonで学習し、TPU、GPU、CPU上のC++ランタイムで提供できます。
InferenceXとAgentXのベンチマークでは、GoogleがvLLM-TorchTPUのスタックで最先端の価格性能比を達成したと主張しています。これは同社が公表したデータです。モデルを使った開発を始めるなら、Gemini APIガイドから始めることができます。
知っておくべき制約
性能、遅延、価格性能比に関する数値はGoogleの主張であり、第三者による検証はありません。手元の情報源には、2つの新システムの価格、地域ごとの提供状況、リリース日は記載されていません。受け取った公式テキストは途中で切れており、エージェントの待機状態の扱いなど一部は評価できません。約束されたソフトウェアの更新によって結果が変わる可能性もあります。
デジタル分野の実務者にとって何が変わるか
TPUはGoogleのクラウド経由で利用するため、ほとんどの日本企業にすぐ影響するわけではありません。影響が大きいのは、医療や金融など機密性の高いデータを扱う組織です。メモリ上でも保護された推論は、機密データを扱うエージェントの導入を容易にするかもしれません。PyTorchで開発している人は、コードを書き直さずにこれらのマシンを試せる近道を得られます。ただしGPUとの実際のコストを比べることが大切です。すでにGoogleのGeminiシリーズを使っているなら、これらのマシンはその基盤として動いています。
編集部の見解
この動きは一貫しています。Googleは最速のチップだけを狙っているのではなく、作業の各段階に合わせたシステムを提供しています。利用中の機密性を守るという点は強い訴求力を持ち、多くの企業がエージェントにデータを預けることをためらう要因を減らします。ただし、Googleの数値に依存する閉じたエコシステムであることは変わりません。期待を寄せる前に、価格と独立したテストが必要です。規制の動向も注視すべきで、その点は開発者向けAI Act解説が参考になります。
よくある質問
TPU 8txとTPU 8tの違いは何ですか？
TPU 8txはTPU 8tと同じシリコンを使いますが、保護された推論に最適化されています。TPU 8iの低遅延ネットワークと、データ利用時のハードウェア保護を備えています。大規模な学習にはTPU 8tが引き続き使われます。
TPU 8i MaxはTPU 8iより何が増えたのですか？
リソースが倍増します。Googleによれば、2つのTPU 8iチップを1つのパッケージにまとめ、演算能力、SRAM、HBM帯域がいずれも2倍になるとのことです。非常に大きなコンテキストの処理に向けられています。
自分のPyTorchコードでTPUを使えますか？
Googleによれば可能です。TorchTPUはオープンソースで、PyTorchのコードやHugging Faceのモデルをコードを書き換えずにTPU上でネイティブに動かせます。
Googleは今年いくつのTPUを発表しましたか？
第8世代の4システムです。4月に発表されたTPU 8tと8iに、今回のTPU 8txと8i Maxが加わります。Googleによれば、1年でこれほど多く発表されたのは初めてです。
TPUを利用している顧客は何社ありますか？
Googleによれば約100社です。フロンティアラボ、トレーディング会社、再販業者、大学などが含まれます。
価格、独立したテスト、機密データ、今後数か月で注目すべき点
これらのシステムの価値は、発表資料の外で見えてきます。提供状況、コスト、外部による検証が重要です。
- TPU 8txとTPU 8i Maxがクラウドでいつどこで提供され、いくらになるかを確認してください。
- Googleの数値だけでなく、InferenceXとAgentXのベンチマークに対する独立したテストを探してください。
- 機密データを扱う場合は、どのconfidential computingの保証が本当に必要かを専門家と検討してください。
