Ing. Calogero Bono
Google представил TPU 8tx и TPU 8i Max, два новых системы, которые дополняют семейство ускорителей восьмого поколения. Они добавляются к TPU 8t и 8i, показанным в апреле на Cloud Next. По словам Google, это первый случай, когда компания вводит четыре TPU-системы за один год. Мишень здесь ИИ-агенты, которые обрабатывают больше данных и работают в несколько шагов, а также компании, которым нужна более надежная защита чувствительных данных.
Несколько терминов, прежде чем перейти к фактам. TPU — процессор, который Google разрабатывает для искусственного интеллекта. Инференс — это фаза, когда уже обученная модель отвечает на запросы. Окно контекста — объем текста, который модель может учитывать за один раз. Confidential computing защищает данные даже тогда, когда они обрабатываются в памяти. HBM и SRAM — виды быстрой памяти, расположенной рядом с чипом.
Что представил Google?
В официальном посте Google новинки представлены двумя системами. TPU 8tx предназначен для безопасного и закрытого инференса и подходит также для обучения малого масштаба. TPU 8i Max, напротив, создан для очень больших окон контекста и максимальной плотности вычислений на стойку.
В апреле появились TPU 8t, для масштабного обучения, и TPU 8i, для рассуждений в реальном времени. Google заявляет до 2,7 раза большей производительности при обучении и на 80% лучшее соотношение цены и производительности при инференсе по сравнению с предыдущим поколением. Новость также подхватил HDblog.
Как работает TPU 8tx и кому он нужен?
Обычно данные зашифрованы, когда хранятся или передаются по сети, но их нужно расшифровать в памяти во время обработки. Google объясняет, что TPU 8tx переносит защиту на аппаратный уровень, поэтому чувствительные данные и веса модели остаются изолированными даже в процессе использования. Он использует тот же кремний, что и TPU 8t, в сочетании с хостами на CPU AMD EPYC пятого поколения.
Кроме того, он применяет низкозадержечную сеть Boardfly из TPU 8i. По словам Google, задержка снижается до 2 раз по сравнению с TPU 8t, а потеря производительности почти нулевая. Целевая аудитория — регулируемые компании и государственные органы.
На той же системе можно обучать и настраивать модели, например проводить fine-tuning на закрытых данных, не перемещая их между разными кластерами.
Что такое TPU 8i Max и какую проблему он решает?
Google связывает его с так называемой проблемой «стены памяти». Когда десятки агентов работают вместе над целым исходным кодом или часами видео, узким местом становится пропускная способность памяти. Заявленное решение — объединить два чипа TPU 8i в один корпус.
Результат, по словам Google, — вдвое больше вычислений, SRAM и пропускной способности HBM по сравнению с TPU 8i. Поскольку в той же стойке помещается вдвое больше кремния, дата-центры могут разместить больше мощности на квадратный метр и на ватт. Тема инфраструктуры та же, что и в истории о дата-центре Crusoe, купленном Google в Вайоминге.
Что это меняет для разработчиков?
Google делает упор на доступность. В прошлом месяце компания выпустила в открытый доступ TorchTPU, благодаря чему код PyTorch и модели Hugging Face работают на TPU нативно, без переписывания кода. Есть бэкенды для движков инференса, таких как vLLM и SGLang.
Набор агентов для TPU в превью подключается к инструментам вроде Claude Code, Cursor и Google Antigravity, чтобы автоматизировать запуск и диагностировать узкие места. Открытый XLA Serving Engine позволяет обучать на Python и запускать сервинг в рантайме C++ на TPU, GPU и CPU.
По бенчмаркам InferenceX и AgentX Google заявляет результаты соотношения цены и производительности на уровне лучших показателей, используя свой стек vLLM-TorchTPU. Это данные, заявленные самой компанией. Разработчики, работающие с моделями, могут начать с нашего руководства по Gemini API.
Ограничения, которые стоит знать
Цифры по производительности, задержке и соотношению цены и производительности — это заявления Google, без независимой проверки. В доступных нам источниках нет цен, данных о доступности по регионам и дат выпуска двух новых систем. Официальный текст, который мы получили, обрезан, поэтому некоторые части, например управление простоем агентов, оценить нельзя. Обещанные программные обновления могут изменить результаты.
Что это меняет для тех, кто работает с цифровыми технологиями
Для большинства итальянских компаний ничего немедленного, потому что TPU используются через облако Google. Сигнал важен для тех, кто работает с чувствительными данными, например в здравоохранении или финансах. Инференс, защищенный и в памяти, может упростить перенос агента на закрытые данные. Разработчики, которые пишут на PyTorch, получают более короткий путь к тестированию этих машин без переписывания кода. Однако стоит сравнить реальные затраты с затратами на GPU. Если вы уже используете линейку Gemini от Google, эти машины станут основой, на которой она работает.
Наше мнение
Ход логичен. Google ищет не просто самый быстрый чип, а продает системы, заточенные под каждый этап работы. Защита данных во время использования — сильный аргумент, потому что именно она удерживает многие компании от передачи данных агентам. Но это закрытая экосистема, а преимущества зависят от цифр самого Google. Прежде чем восторгаться, нужны цены и независимые тесты. Стоит также следить за регулированием, о котором напоминает наш гид по AI Act для разработчиков.
Частые вопросы
В чем разница между TPU 8tx и TPU 8t?
TPU 8tx использует тот же кремний, что и TPU 8t, но оптимизирован для закрытого инференса. У него низкозадержечная сеть TPU 8i и аппаратная защита данных в процессе использования. TPU 8t остается системой для масштабного обучения.
Что TPU 8i Max добавляет к TPU 8i?
Он удваивает ресурсы. По словам Google, в одном корпусе объединены два чипа TPU 8i, что дает двойные вычисления, двойную SRAM и двойную пропускную способность HBM. Он нужен для очень больших контекстов.
Могу ли я использовать TPU с моим кодом на PyTorch?
Да, по словам Google. TorchTPU открыт и позволяет нативно запускать код PyTorch и модели Hugging Face на TPU без переписывания кода.
Сколько TPU Google представил в этом году?
Четыре системы восьмого поколения. Это TPU 8t и 8i, показанные в апреле, а также TPU 8tx и 8i Max. Google утверждает, что за один год такого еще не было.
Сколько клиентов пользуются TPU?
Почти сто, по словам Google. Среди них передовые исследовательские лаборатории, трейдинговые компании, перепродавцы и университеты.
Цены, независимые тесты и чувствительные данные – на что смотреть в ближайшие месяцы
Ценность этих систем проявится за пределами пресс-релизов. Важны доступность, стоимость и внешняя проверка.
- Проверьте, когда и где TPU 8tx и 8i Max станут доступны в облаке и по какой цене.
- Ищите независимые тесты на бенчмарках InferenceX и AgentX, а не только данные Google.
- Если вы работаете с закрытыми данными, обсудите с консультантом, какие гарантии confidential computing действительно нужны.
