Ing. Calogero Bono
Google ने TPU 8tx और TPU 8i Max पेश किए हैं, दो नए सिस्टम जो आठवीं पीढ़ी के एक्सेलरेटर परिवार को पूरा करते हैं. ये TPU 8t और 8i के साथ जुड़ते हैं, जिन्हें अप्रैल में Cloud Next के दौरान दिखाया गया था. Google के अनुसार एक ही साल में चार TPU सिस्टम लाना पहली बार हुआ है. निशाना AI एजेंट हैं, जो ज़्यादा डेटा संभालते हैं और कई चरणों में काम करते हैं, साथ ही वे कंपनियाँ भी जो संवेदनशील डेटा के लिए अधिक सुरक्षा चाहती हैं.
कुछ शब्द, तथ्यों में जाने से पहले. TPU वह प्रोसेसर है जिसे Google आर्टिफिशियल इंटेलिजेंस के लिए बनाता है. इनफेरेंस वह चरण है जिसमें प्रशिक्षित मॉडल अनुरोधों का जवाब देता है. कॉन्टेक्स्ट विंडो वह मात्रा है जितना टेक्स्ट एक बार में मॉडल ध्यान में रख सकता है. कॉन्फिडेंशियल कंप्यूटिंग डेटा को मेमोरी में प्रोसेस होते समय भी सुरक्षित रखती है. HBM और SRAM चिप के पास स्थित तेज़ मेमोरी के प्रकार हैं.
Google ने क्या पेश किया?
Google की आधिकारिक पोस्ट में नए सिस्टम दो हैं. TPU 8tx सुरक्षित और गोपनीय इनफेरेंस के लिए बनाया गया है, और छोटे पैमाने के प्रशिक्षण के लिए भी उपयुक्त बताया गया है. TPU 8i Max बहुत बड़े कॉन्टेक्स्ट विंडो और प्रति रैक अधिकतम कंप्यूट घनत्व के लिए बनाया गया है.
अप्रैल में TPU 8t आया था, जो बड़े पैमाने के प्रशिक्षण के लिए है, और TPU 8i, जो रीयल-टाइम तर्क के लिए है. Google का दावा है कि प्रशिक्षण में पिछली पीढ़ी से 2.7 गुना तक प्रदर्शन और इनफेरेंस में 80% बेहतर प्राइस-परफॉर्मेंस है. यह खबर HDblog पर भी आई है.
TPU 8tx कैसे काम करता है और किसके लिए है?
आमतौर पर डेटा भंडारण या नेटवर्क पर भेजते समय एन्क्रिप्टेड रहता है, लेकिन प्रोसेसिंग के दौरान मेमोरी में उसे डिक्रिप्ट करना पड़ता है. Google बताता है कि TPU 8tx सुरक्षा को हार्डवेयर स्तर पर ले जाता है, ताकि संवेदनशील डेटा और मॉडल के वेट्स उपयोग के दौरान भी अलग रहें. यह TPU 8t वाला ही सिलिकॉन इस्तेमाल करता है, जिसे पाँचवीं पीढ़ी के AMD EPYC CPU वाले होस्ट के साथ जोड़ा गया है.
इसमें TPU 8i वाला कम लेटेंसी वाला Boardfly नेटवर्क भी है. Google के अनुसार TPU 8t की तुलना में लेटेंसी 2 गुना तक कम होती है, और प्रदर्शन में लगभग कोई नुकसान नहीं होता. लक्ष्य नियंत्रित उद्योग और सरकारें हैं.
उसी सिस्टम पर प्रशिक्षण और कस्टमाइज़ेशन भी हो सकता है, जैसे निजी डेटा पर फ़ाइन-ट्यूनिंग, बिना डेटा को अलग-अलग क्लस्टर के बीच ले जाए.
TPU 8i Max क्या है और यह किस समस्या को हल करता है?
Google इसे तथाकथित मेमोरी वॉल की समस्या से जोड़ता है. जब दर्जनों एजेंट एक पूरे सोर्स कोड या घंटों के वीडियो पर साथ काम करते हैं, तो मेमोरी बैंडविड्थ अड़चन बन जाती है. घोषित समाधान है दो TPU 8i चिप को एक ही पैकेज में जोड़ना.
Google के अनुसार इसका नतीजा TPU 8i की तुलना में दोगुनी कंप्यूट, SRAM और HBM बैंडविड्थ है. चूँकि एक ही रैक में दोगुना सिलिकॉन आता है, डेटा सेंटर प्रति वर्ग मीटर और प्रति वाट अधिक शक्ति रख सकते हैं. यह इन्फ्रास्ट्रक्चर का वही विषय है जो Google द्वारा Wyoming में खरीदे गए Crusoe डेटा सेंटर से जुड़ता है.
डेवलपर्स के लिए क्या बदलता है?
Google पहुँच की आसानी पर ज़ोर देता है. पिछले महीने उसने TorchTPU को ओपन सोर्स में जारी किया, ताकि PyTorch कोड और Hugging Face मॉडल कोड दोबारा लिखे बिना TPU पर मूल रूप से चलें. vLLM और SGLang जैसे इनफेरेंस इंजन के लिए बैकएंड भी मौजूद हैं.
TPU के लिए एजेंट सूट, जो अभी प्रीव्यू में है, Claude Code, Cursor और Google Antigravity जैसे टूल से जुड़कर शुरुआत को स्वचालित करता है और बॉटलनेक का निदान करता है. एक ओपन सोर्स XLA Serving Engine Python में प्रशिक्षण और C++ रनटाइम में सर्विंग की सुविधा देता है, जो TPU, GPU और CPU पर चलता है.
InferenceX और AgentX बेंचमार्क पर Google अपने vLLM-TorchTPU स्टैक के साथ अत्याधुनिक प्राइस-परफॉर्मेंस के नतीजे बताता है. ये आँकड़े कंपनी द्वारा घोषित हैं. मॉडल के साथ काम करने वाले डेवलपर्स हमारी Gemini API गाइड से शुरू कर सकते हैं.
ध्यान रखने योग्य सीमाएँ
प्रदर्शन, लेटेंसी और प्राइस-परफॉर्मेंस के आँकड़े Google के दावे हैं, जिनकी स्वतंत्र पुष्टि नहीं हुई है. हमारे पास उपलब्ध स्रोतों में दोनों नए सिस्टम की कीमत, क्षेत्रवार उपलब्धता या रिलीज़ की तारीखें नहीं हैं. Google से मिला आधिकारिक टेक्स्ट अधूरा है, इसलिए एजेंट की निष्क्रियता संभालने जैसे कुछ हिस्सों का आकलन नहीं हो सकता. वादा किए गए सॉफ़्टवेयर अपडेट नतीजों को बदल सकते हैं.
डिजिटल काम करने वालों के लिए क्या बदलता है
ज़्यादातर भारतीय कंपनियों के लिए फ़िलहाल कुछ तुरंत नहीं बदलता, क्योंकि TPU का उपयोग Google के क्लाउड के ज़रिए होता है. यह संकेत उन लोगों के लिए अहम है जो स्वास्थ्य या वित्त जैसे संवेदनशील डेटा संभालते हैं. मेमोरी में भी सुरक्षित इनफेरेंस से संवेदनशील डेटा पर एजेंट चलाना आसान हो सकता है. PyTorch पर काम करने वाले डेवलपर्स को कोड दोबारा लिखे बिना इन मशीनों को आज़माने का छोटा रास्ता मिलता है. फिर भी वास्तविक लागत की तुलना GPU से करना बेहतर है. अगर आप पहले से Google की Gemini लाइन इस्तेमाल करते हैं, तो ये मशीनें उसी का आधार हैं.
हमारी राय
यह कदम तर्कसंगत है. Google सिर्फ सबसे तेज़ चिप नहीं बेच रहा, बल्कि काम के हर चरण के लिए अलग-अलग सिस्टम दे रहा है. उपयोग के दौरान गोपनीयता एक मज़बूत तर्क है, क्योंकि यही कई कंपनियों को एजेंटों पर डेटा सौंपने से रोकती है. फिर भी यह एक बंद इकोसिस्टम है, और इसके फ़ायदे Google के अपने आँकड़ों पर टिके हैं. उत्साहित होने से पहले कीमतों और स्वतंत्र परीक्षणों की ज़रूरत है. नियमों पर भी नज़र रखनी होगी, जैसा कि हमारी डेवलपर्स के लिए AI Act गाइड में बताया गया है.
अक्सर पूछे जाने वाले प्रश्न
TPU 8tx और TPU 8t में क्या अंतर है?
TPU 8tx वही सिलिकॉन इस्तेमाल करता है जो TPU 8t में है, लेकिन इसे सुरक्षित इनफेरेंस के लिए अनुकूलित किया गया है. इसमें TPU 8i वाला कम लेटेंसी नेटवर्क और उपयोग में डेटा की हार्डवेयर सुरक्षा है. TPU 8t बड़े पैमाने पर प्रशिक्षण के लिए ही रहता है.
TPU 8i Max, TPU 8i से क्या अधिक करता है?
यह संसाधन दोगुने कर देता है. Google के अनुसार इसमें दो TPU 8i चिप एक पैकेज में जुड़ते हैं, जिससे दोगुनी कंप्यूट, दोगुनी SRAM और दोगुनी HBM बैंडविड्थ मिलती है. यह बहुत बड़े संदर्भों के लिए बनाया गया है.
क्या मैं अपने PyTorch कोड के साथ TPU इस्तेमाल कर सकता हूँ?
Google के अनुसार हाँ. TorchTPU ओपन सोर्स है और PyTorch कोड तथा Hugging Face मॉडल को TPU पर मूल रूप से चलाता है, बिना कोड दोबारा लिखे.
Google ने इस साल कितने TPU पेश किए?
Google के अनुसार आठवीं पीढ़ी के चार सिस्टम. ये TPU 8t और 8i हैं, जो अप्रैल में दिखाए गए थे, साथ में TPU 8tx और 8i Max. कंपनी का कहना है कि एक साल में ऐसा पहले कभी नहीं हुआ.
TPU का इस्तेमाल कितने ग्राहक करते हैं?
Google के अनुसार लगभग 100. इनमें फ्रंटियर लैब, ट्रेडिंग कंपनियाँ, रीसेलर और विश्वविद्यालय शामिल हैं.
कीमत, स्वतंत्र परीक्षण और संवेदनशील डेटा, आने वाले महीनों में क्या देखें
इन सिस्टम का असली मूल्य प्रेस विज्ञप्तियों से बाहर दिखेगा. उपलब्धता, लागत और बाहरी जाँच सबसे मायने रखेंगी.
- जाँचें कि TPU 8tx और 8i Max क्लाउड में कब और कहाँ उपलब्ध होंगे और उनकी कीमत क्या होगी.
- InferenceX और AgentX बेंचमार्क पर स्वतंत्र परीक्षण खोजें, सिर्फ Google के आँकड़े नहीं.
- अगर आप गोपनीय डेटा संभालते हैं, तो अपने सलाहकार के साथ तय करें कि कौन सी कॉन्फिडेंशियल कंप्यूटिंग गारंटी सचमुच ज़रूरी है.
