Anche i giganti tecnologici con propri modelli linguistici di grandi dimensioni faticano a trovare potenza di calcolo sufficiente. Google è stata costretta a limitare l'uso del suo modello Gemini AI da parte di Meta, dopo che l'azienda di Mark Zuckerberg ha superato la capacità computazionale disponibile, secondo fonti vicine alla questione per il Financial Times. L'episodio rivela che persino i colossi con proprie LLM hanno difficoltà a garantire risorse per sé stessi, figuriamoci per i clienti.
Meta non gestisce un proprio cloud business e sta cercando di espandere rapidamente i suoi data center, avendo promesso investimenti per 600 miliardi di dollari in cloud computing nei prossimi due anni. Google avrebbe avvertito il social network dei limiti di capacità già a marzo, costringendo Meta a chiedere ai dipendenti di utilizzare i token in modo più efficiente. Gemini AI viene impiegato da Meta per servizio clienti, chatbot pubblicitari e codifica, oltre a processi come la rimozione di contenuti dannosi e il rilevamento di truffe. Meta inizialmente scelse Gemini perché superava i propri modelli open-source Llama.
Sponsored Protocol
La scarsità di potenza di calcolo colpisce anche i Big Tech
Nonostante i miliardi spesi finora per i data center, le grandi aziende faticano a ottenere capacità sufficiente. Google stessa ha recentemente accettato di pagare 920 milioni di dollari al mese a SpaceX per utilizzare i data center di xAI, a causa della potenza extra richiesta per Gemini Enterprise. Gli utenti AI avanzati beneficiano del boom, ma i fornitori come OpenAI non stanno ancora guadagnando, poiché i ricavi dell'AI sono una piccola percentuale dei costi. Di recente, i prezzi dei token sono aumentati, costringendo alcune aziende a ridurre l'uso dell'AI, comprese le stesse società di AI.
Sponsored Protocol
Per approfondire, leggi anche come OpenAI stringe le maglie sulle API in Europa e l'avvertimento di Google sui dati delle ricerche hackerati. Per un contesto più ampio, consulta la pagina Wikipedia su Gemini.
Fonte: https://www.engadget.com/2203579/google-reportedly-capped-meta-use-of-gemini-ai-for-coding-chatbots
